Ist es an der Zeit, dass wir es „mühsame Intelligenz“ nennen?
Künstliche Intelligenz ist vor allem eins: viel Arbeit. Angelegt als Wettkampf ohne Ende, generiert sie viele, die verlieren, und nur wenige, die gewinnen. Statt von künstlicher Intelligenz sollten wir eher von „mühsamer Intelligenz“ sprechen.
Ich stehe im Haus meiner Eltern am Fenster und beobachte den Mähroboter, der über den Rasen fährt. Dabei muss ich an die Kiwibots denken, jene kleinen autonom fahrenden Roboter, die unter anderem auf dem Campus der Stanford Universität Essen ausliefern. Da irgendwann bekannt wurde, dass sie von Menschen in Kolumbien ferngesteuert werden, frage ich mich, ob wohl auch der Mähroboter von jemandem gesteuert wird?
Immer wieder ruft meine kleine Tochter, die mit mir aus dem Fenster schaut, nach dem Rasenmäher, wenn dieser aus unserem Sichtfeld verschwindet. Mir fällt Joseph Weizenbaum ein, der Mitte der 1960er mit ELIZA das erste Programm entwickelte, das es Nutzer*innen ermöglichte, mit einem Computer wie mit einem Menschen zu interagieren. Eine Anwendung von ELIZA war das Doktor-Programm, bei dem sich der Computer als Gesprächstherapeut ausgab. Ausgelöst durch Schlüsselwörter stellte er einfache Fragen, welche die Nutzer*innen dazu animierten, weiter zu erzählen. Durch diesen Trick erfreute sich das technisch relativ einfache Programm großer Beliebtheit als Gesprächspartner. Weizenbaum erzählte später entsetzt, wie ihn seine Sekretärin bat, den Raum zu verlassen, damit sie sich in Ruhe mit ELIZA unterhalten konnte, obwohl sie wusste, dass es sich dabei um ein Computerprogramm ohne jegliches Verständnis oder Bewusstsein handelte.
Heute, fast sechzig Jahre später, haben sich die Computerprogramme verändert. Siri und Alexa hören uns tatsächlich zu. Sie kümmern sich um uns und scheinen von einer Seele erfüllt zu sein. Allerdings hat dies nichts mit einer Intelligenzexplosion zu tun, sondern damit, dass im Inneren der persönlichen Assistent*innen tatsächlich Menschen arbeiten, deren Job es ist uns zuzuhören, um jene Aufnahmen, die nicht automatisch entschlüsselt werden konnten, zu transkribieren. Sie optimieren die Algorithmen für die nächste Unterhaltung.
Ich komme deshalb zu dem Schluss, dass in den vergangenen Jahrzehnten keine künstliche Intelligenz entwickelt wurde, sondern etwas, das ich von nun an mühsame Intelligenz nennen möchte. Mühsame Intelligenz, weil in ihrem Kern Menschen arbeiten, die ich an anderer Stelle als menschliche Software-Erweiterungen beschrieben habe. Auf digitalen Plattformen können sie mit einem Klick als Denkeinheiten und Körper in der Welt, die algorithmischen Systeme erweitern, angeheuert und ebenso leicht wieder gefeuert werden. Menschen, die uns Essen oder saubere Wäsche liefern, gehören ebenso zu ihnen, wie jene, die in Kolumbien sitzen und vermeintlich autonome Roboter in Kalifornien fernsteuern. Durch die globalen Netze sind diese Menschen immer von überall aus als Software-Erweiterungen verfügbar.
Sie transkribieren nicht nur unsere Unterhaltungen in mühsamer Handarbeit, sondern annotieren auch riesige Mengen an Fotos und Videos. Alle Objekte werden von ihnen umrandet, Situationen beschrieben sowie Verhalten und Emotionen analysiert. Mit diesen Daten werden die Algorithmen der neuronalen Netze trainiert. Damit die mühsame Intelligenz mit einer sich ändernden Welt Schritt halten kann, müssen jedoch ständig immer mehr Daten annotiert werden, und das immer genauer. Mühsame Intelligenz macht immer mehr Arbeit.
Mir scheint mühsame Intelligenz voller Widersprüche zu sein. So soll uns mühsame Intelligenz helfen, in Big Data Muster zu erkennen und Dinge sichtbar zu machen. Gleichzeitig macht mühsame Intelligenz aber ganz bestimmte Aspekte der Welt unsichtbar, nämlich die Arbeit, die in die mühsame Intelligenz fließt. Selbst für jene, die daran arbeiten, entstehen blinde Flecken. Das wird ganz bewusst eingesetzt.
2017 heuerte Google Klickarbeiter*innen an, um in Bildmaterial Gebäude, Bäume und weitere Objekte zu markieren. Ohne es zu wissen, half diese über den Erdball verstreute Schar dabei, Algorithmen für das Project Maven des Pentagons zu trainieren. Ziel dieses Projektes ist der Einsatz von künstlicher Intelligenz in der algorithmischen Kriegsführung.
Hier zeigt sich deutlich, warum man bei künstlicher bzw. mühsamer Intelligenz davon spricht, dass neuronale Netze trainiert werden. Mühsame Intelligenz bereitet sich durch Training auf den Wettkampf vor. Forschungsgruppen treten mit ihren neuronalen Netzen in jährlichen Wettkämpfen gegeneinander an, Unternehmen kämpfen mit ihren Infrastrukturen und Algorithmen der mühsamen Intelligenz um Marktdominanz und auch Regierungen befinden sich in einem sogenannten Wettrennen um die künstliche – also mühsame – Intelligenz.
Der Mähroboter ist mittlerweile auf dem Weg zu seiner Ladestation, die sich im Gartenhäuschen befindet. Für heute scheint seine Arbeit getan. Während ich ihm nachblicke, überlege ich, welche Auswirkungen dieser Wettkampfmodus hat, der die mühsame Intelligenz zu strukturieren scheint.
Mühsame Intelligenz ist auf Schwärme von Körpern angewiesen, die Algorithmen mit Daten versorgen, um der anfallenden Arbeit Herr zu werden. Gleichzeitig fungieren diese Algorithmen dann als Manager und Antreiber derer, von denen sie trainiert werden. Es entsteht ein Amalgam aus menschlicher und technischer Infrastruktur, welches sich kontinuierlich auf Effizienz und Produktivität trimmt, in dem seine Elemente gegeneinander antreten. Mir fallen Amazons Lagerhallen ein, wo die Produktivität aller Arbeiter*innen algorithmisch überwacht wird und für jene automatisch Kündigungspapiere generiert werden, die im Vergleich zu ihren Kolleg*innen nicht schnell genug sind. Um diesen Wettkampf zu beschleunigen, stellt Amazon kostenlos Schmerzmittel zur Verfügung. Percolata wiederum, das u.a. für Uniqlo tätig ist, überwacht mit Sensoren die Angestellten in den Filialen, um so die Produktivität zu ermitteln und daraus ein Ranking zu erstellen. IBM schließlich nutzt seine KI-Platform Watson, um die Entwicklung von Angestellten vorauszusagen und entsprechend die Löhne anzupassen. Dabei sind die Kriterien, anhand derer die Arbeiter*innen sortiert und aussortiert werden, nicht statisch. Es wird Leistung gefordert, wird diese Leistung jedoch erbracht, verschiebt sich der Erwartungshorizont für alle wieder ein Stückchen in die Ferne. Ein durch Algorithmen überwachtes „race to the bottom.“
Irgendetwas stimmt nicht. Der Rasenmäher ist bei dem Gartenhäuschen angekommen, aber er schafft es nicht, durch die kleine Öffnung in seine Ladestation zu fahren. Immer wieder nimmt er Anlauf, fährt gegen die Wand oder dreht, kurz bevor er die Öffnung erreicht hat, wieder ab, fährt zurück in den Garten. Er scheint gefangen in seinen erfolglosen Versuchen.
Ich nehme den Faden wieder auf: Mühsame Intelligenz operiert als System, wälzt aber die Verantwortung auf den Einzelnen ab. Probleme müssen durch die Optimierung individueller Fähigkeiten gelöst werden, auch wenn das Ziel niemals in Reichweite kommt.
Mühsame Intelligenz generiert und benötigt Verlierer*innen. Sie besteht aus globalen Schwärmen und Infrastrukturen, reagiert aber auf die Mühen bestimmter Orte und weiß diese Mühen auszunutzen. Deshalb sind Arbeiter*innen aus dem krisengeschüttelten Venezuela zur Zeit besonders gefragt, wenn es um die Erstellung der Trainingsdaten für die selbstfahrenden Autos der deutschen Hersteller geht. Eine solche Konstellation ist jedoch instabil, zieht es mühsame Intelligenz doch immer dorthin, wo die menschlichen Software-Erweiterungen noch günstiger sind. Dem gegenüber generiert und konzentriert mühsame Intelligenz Reichtum und Gewinne an nur wenigen Orten und bei einzelnen Personen.
In den Trainingsprozessen und Wettkämpfen der mühsamen Intelligenz werden von Computern ausführbare Modelle erzeugt, die anschließend unsere Lebensrealitäten formen. Sie reproduzieren die Bedingungen des Gewinnens und Verlierens. Benachteiligung, Ausbeutung und Rassismus sind in ihre Strukturen eingeschrieben und werden von ihnen weitergeschrieben.
Mittlerweile steht mein Vater neben mir, schaut abwechselnd zu dem Mähroboter und auf das Display seines Handys, wo der Status des Gerätes zu sehen ist. Der Rasenmäher scheint außer Kontrolle, führt einen so absurden wie unterhaltsamen Tanz auf. Und doch, irgendwann schafft er es tatsächlich in seine Ladestation, wo er zur Ruhe kommt. Ich ertappe mich bei der Frage, was diese mühsame Intelligenz eigentlich mit mir zu tun hat. Macht es einen Unterschied, ob dieser Rasenmäher von unsichtbaren Menschen ferngesteuert wird? Ob er auf Algorithmen basiert, die unter prekären Bedingungen erarbeitet wurden? Oder ob er doch nur einfachen, vorprogrammierten Regeln folgt?
Mir scheint, mühsame Intelligenz existiert immer als Beziehung. Meine Annehmlichkeit ist in diesen Zusammenhängen nicht selten jemandes Mühe, auch wenn uns das Gerede von künstlicher Intelligenz etwas anderes glauben machen will. Das muss nicht grundsätzlich schlecht sein, schließlich kann Arbeit auch gut bezahlt und mit Sicherheiten versehen werden. Um zumindest aber das sicherstellen zu können, müssen wir verstehen, was es mit der neuen Lebendigkeit und Intelligenz der vernetzten Artefakte auf sich hat und was sich hinter den glatten Oberflächen unserer Apps verbirgt. Der systematischen und algorithmischen Produktion von vielen Verlierer*innen, denen nur wenige Gewinner*innen gegenüber stehen, können wir nur dann etwas entgegensetzen, wenn wir die Vereinzelung der Schwärme überwinden und über mühsame Intelligenz als System nachdenken. Denn: Mühsame Intelligenz könnte etwas sein, das wir gemeinsam praktizieren und besitzen. Ein mühsames Nachdenken übereinander und ebenso mühsames Einsetzen füreinander.
Auch wenn der Mähroboter besonders meine Tochter gut unterhalten und beschäftigt hat, frage ich meinen Vater nun, warum der Roboter nicht des nachts seine stummen Runden dreht. Er erwidert, dass es vorkommen könne, dass der Rasenmäher seinen Arbeitsbereich verlasse und die Böschung hinunterfalle. Dort, am Rande des Waldes, der hinter dem Haus meiner Eltern beginnt, liege er dann untätig auf seinem Rücken, unfähig zurück in den Garten oder raus in den Wald zu fahren.
Während Joseph Weizenbaum sein ELIZA-Programm entwickelte, konzipierte zur selben Zeit in den 1960ern Douglas Engelbart mit seinem Team die erste grafische Oberfläche für Computer. Sein Ziel war nicht ein Interface, das eine menschenähnliche Konversation ermöglichen würde. Stattdessen arbeitete er an Werkzeugen, die es Gesellschaften erlauben sollten, ihre kollektive Intelligenz zu steigern. Seiner Zeit um Jahrzehnte voraus, entwickelte er eine Benutzeroberfläche, mit der Nutzer*innen über Entfernungen hinweg gemeinsam arbeiten konnten. Aber auch die Arbeit mit dem Computer selbst legte er kollaborativ an. Nutzer*in und Computer sollten gemeinsam wachsen können und sich gegenseitig neue Fähigkeiten ermöglichen. Von Bequemlichkeit oder Wettkampf keine Spur.
Als ich dann am Abend im Bett liege, beschäftigt mich eine Beobachtung. Umso weniger Leben meinen Eltern noch verbleibt, desto lebendiger scheint ihr Haus zu werden. Irgendwann wird es menschenleer sein, belebt jedoch von vernetzten Geräten und Algorithmen. Sie werden die Eigenheiten meiner Eltern weiterführen.
Immer wieder ruft meine kleine Tochter, die mit mir aus dem Fenster schaut, nach dem Rasenmäher, wenn dieser aus unserem Sichtfeld verschwindet. Mir fällt Joseph Weizenbaum ein, der Mitte der 1960er mit ELIZA das erste Programm entwickelte, das es Nutzer*innen ermöglichte, mit einem Computer wie mit einem Menschen zu interagieren. Eine Anwendung von ELIZA war das Doktor-Programm, bei dem sich der Computer als Gesprächstherapeut ausgab. Ausgelöst durch Schlüsselwörter stellte er einfache Fragen, welche die Nutzer*innen dazu animierten, weiter zu erzählen. Durch diesen Trick erfreute sich das technisch relativ einfache Programm großer Beliebtheit als Gesprächspartner. Weizenbaum erzählte später entsetzt, wie ihn seine Sekretärin bat, den Raum zu verlassen, damit sie sich in Ruhe mit ELIZA unterhalten konnte, obwohl sie wusste, dass es sich dabei um ein Computerprogramm ohne jegliches Verständnis oder Bewusstsein handelte.
Heute, fast sechzig Jahre später, haben sich die Computerprogramme verändert. Siri und Alexa hören uns tatsächlich zu. Sie kümmern sich um uns und scheinen von einer Seele erfüllt zu sein. Allerdings hat dies nichts mit einer Intelligenzexplosion zu tun, sondern damit, dass im Inneren der persönlichen Assistent*innen tatsächlich Menschen arbeiten, deren Job es ist uns zuzuhören, um jene Aufnahmen, die nicht automatisch entschlüsselt werden konnten, zu transkribieren. Sie optimieren die Algorithmen für die nächste Unterhaltung.
Arbeit ohne Ende für unsichtbare Schwärme
Ich komme deshalb zu dem Schluss, dass in den vergangenen Jahrzehnten keine künstliche Intelligenz entwickelt wurde, sondern etwas, das ich von nun an mühsame Intelligenz nennen möchte. Mühsame Intelligenz, weil in ihrem Kern Menschen arbeiten, die ich an anderer Stelle als menschliche Software-Erweiterungen beschrieben habe. Auf digitalen Plattformen können sie mit einem Klick als Denkeinheiten und Körper in der Welt, die algorithmischen Systeme erweitern, angeheuert und ebenso leicht wieder gefeuert werden. Menschen, die uns Essen oder saubere Wäsche liefern, gehören ebenso zu ihnen, wie jene, die in Kolumbien sitzen und vermeintlich autonome Roboter in Kalifornien fernsteuern. Durch die globalen Netze sind diese Menschen immer von überall aus als Software-Erweiterungen verfügbar.
Sie transkribieren nicht nur unsere Unterhaltungen in mühsamer Handarbeit, sondern annotieren auch riesige Mengen an Fotos und Videos. Alle Objekte werden von ihnen umrandet, Situationen beschrieben sowie Verhalten und Emotionen analysiert. Mit diesen Daten werden die Algorithmen der neuronalen Netze trainiert. Damit die mühsame Intelligenz mit einer sich ändernden Welt Schritt halten kann, müssen jedoch ständig immer mehr Daten annotiert werden, und das immer genauer. Mühsame Intelligenz macht immer mehr Arbeit.
Mir scheint mühsame Intelligenz voller Widersprüche zu sein. So soll uns mühsame Intelligenz helfen, in Big Data Muster zu erkennen und Dinge sichtbar zu machen. Gleichzeitig macht mühsame Intelligenz aber ganz bestimmte Aspekte der Welt unsichtbar, nämlich die Arbeit, die in die mühsame Intelligenz fließt. Selbst für jene, die daran arbeiten, entstehen blinde Flecken. Das wird ganz bewusst eingesetzt.
2017 heuerte Google Klickarbeiter*innen an, um in Bildmaterial Gebäude, Bäume und weitere Objekte zu markieren. Ohne es zu wissen, half diese über den Erdball verstreute Schar dabei, Algorithmen für das Project Maven des Pentagons zu trainieren. Ziel dieses Projektes ist der Einsatz von künstlicher Intelligenz in der algorithmischen Kriegsführung.
Die digitalen Abbilder: Immer einen Schritt voraus
Hier zeigt sich deutlich, warum man bei künstlicher bzw. mühsamer Intelligenz davon spricht, dass neuronale Netze trainiert werden. Mühsame Intelligenz bereitet sich durch Training auf den Wettkampf vor. Forschungsgruppen treten mit ihren neuronalen Netzen in jährlichen Wettkämpfen gegeneinander an, Unternehmen kämpfen mit ihren Infrastrukturen und Algorithmen der mühsamen Intelligenz um Marktdominanz und auch Regierungen befinden sich in einem sogenannten Wettrennen um die künstliche – also mühsame – Intelligenz.
Der Mähroboter ist mittlerweile auf dem Weg zu seiner Ladestation, die sich im Gartenhäuschen befindet. Für heute scheint seine Arbeit getan. Während ich ihm nachblicke, überlege ich, welche Auswirkungen dieser Wettkampfmodus hat, der die mühsame Intelligenz zu strukturieren scheint.
Mühsame Intelligenz ist auf Schwärme von Körpern angewiesen, die Algorithmen mit Daten versorgen, um der anfallenden Arbeit Herr zu werden. Gleichzeitig fungieren diese Algorithmen dann als Manager und Antreiber derer, von denen sie trainiert werden. Es entsteht ein Amalgam aus menschlicher und technischer Infrastruktur, welches sich kontinuierlich auf Effizienz und Produktivität trimmt, in dem seine Elemente gegeneinander antreten. Mir fallen Amazons Lagerhallen ein, wo die Produktivität aller Arbeiter*innen algorithmisch überwacht wird und für jene automatisch Kündigungspapiere generiert werden, die im Vergleich zu ihren Kolleg*innen nicht schnell genug sind. Um diesen Wettkampf zu beschleunigen, stellt Amazon kostenlos Schmerzmittel zur Verfügung. Percolata wiederum, das u.a. für Uniqlo tätig ist, überwacht mit Sensoren die Angestellten in den Filialen, um so die Produktivität zu ermitteln und daraus ein Ranking zu erstellen. IBM schließlich nutzt seine KI-Platform Watson, um die Entwicklung von Angestellten vorauszusagen und entsprechend die Löhne anzupassen. Dabei sind die Kriterien, anhand derer die Arbeiter*innen sortiert und aussortiert werden, nicht statisch. Es wird Leistung gefordert, wird diese Leistung jedoch erbracht, verschiebt sich der Erwartungshorizont für alle wieder ein Stückchen in die Ferne. Ein durch Algorithmen überwachtes „race to the bottom.“
Verlieren mit System
Irgendetwas stimmt nicht. Der Rasenmäher ist bei dem Gartenhäuschen angekommen, aber er schafft es nicht, durch die kleine Öffnung in seine Ladestation zu fahren. Immer wieder nimmt er Anlauf, fährt gegen die Wand oder dreht, kurz bevor er die Öffnung erreicht hat, wieder ab, fährt zurück in den Garten. Er scheint gefangen in seinen erfolglosen Versuchen.
Ich nehme den Faden wieder auf: Mühsame Intelligenz operiert als System, wälzt aber die Verantwortung auf den Einzelnen ab. Probleme müssen durch die Optimierung individueller Fähigkeiten gelöst werden, auch wenn das Ziel niemals in Reichweite kommt.
Mühsame Intelligenz generiert und benötigt Verlierer*innen. Sie besteht aus globalen Schwärmen und Infrastrukturen, reagiert aber auf die Mühen bestimmter Orte und weiß diese Mühen auszunutzen. Deshalb sind Arbeiter*innen aus dem krisengeschüttelten Venezuela zur Zeit besonders gefragt, wenn es um die Erstellung der Trainingsdaten für die selbstfahrenden Autos der deutschen Hersteller geht. Eine solche Konstellation ist jedoch instabil, zieht es mühsame Intelligenz doch immer dorthin, wo die menschlichen Software-Erweiterungen noch günstiger sind. Dem gegenüber generiert und konzentriert mühsame Intelligenz Reichtum und Gewinne an nur wenigen Orten und bei einzelnen Personen.
In den Trainingsprozessen und Wettkämpfen der mühsamen Intelligenz werden von Computern ausführbare Modelle erzeugt, die anschließend unsere Lebensrealitäten formen. Sie reproduzieren die Bedingungen des Gewinnens und Verlierens. Benachteiligung, Ausbeutung und Rassismus sind in ihre Strukturen eingeschrieben und werden von ihnen weitergeschrieben.
Die Mühe, füreinander zu sorgen
Mittlerweile steht mein Vater neben mir, schaut abwechselnd zu dem Mähroboter und auf das Display seines Handys, wo der Status des Gerätes zu sehen ist. Der Rasenmäher scheint außer Kontrolle, führt einen so absurden wie unterhaltsamen Tanz auf. Und doch, irgendwann schafft er es tatsächlich in seine Ladestation, wo er zur Ruhe kommt. Ich ertappe mich bei der Frage, was diese mühsame Intelligenz eigentlich mit mir zu tun hat. Macht es einen Unterschied, ob dieser Rasenmäher von unsichtbaren Menschen ferngesteuert wird? Ob er auf Algorithmen basiert, die unter prekären Bedingungen erarbeitet wurden? Oder ob er doch nur einfachen, vorprogrammierten Regeln folgt?
Mir scheint, mühsame Intelligenz existiert immer als Beziehung. Meine Annehmlichkeit ist in diesen Zusammenhängen nicht selten jemandes Mühe, auch wenn uns das Gerede von künstlicher Intelligenz etwas anderes glauben machen will. Das muss nicht grundsätzlich schlecht sein, schließlich kann Arbeit auch gut bezahlt und mit Sicherheiten versehen werden. Um zumindest aber das sicherstellen zu können, müssen wir verstehen, was es mit der neuen Lebendigkeit und Intelligenz der vernetzten Artefakte auf sich hat und was sich hinter den glatten Oberflächen unserer Apps verbirgt. Der systematischen und algorithmischen Produktion von vielen Verlierer*innen, denen nur wenige Gewinner*innen gegenüber stehen, können wir nur dann etwas entgegensetzen, wenn wir die Vereinzelung der Schwärme überwinden und über mühsame Intelligenz als System nachdenken. Denn: Mühsame Intelligenz könnte etwas sein, das wir gemeinsam praktizieren und besitzen. Ein mühsames Nachdenken übereinander und ebenso mühsames Einsetzen füreinander.
Auch wenn der Mähroboter besonders meine Tochter gut unterhalten und beschäftigt hat, frage ich meinen Vater nun, warum der Roboter nicht des nachts seine stummen Runden dreht. Er erwidert, dass es vorkommen könne, dass der Rasenmäher seinen Arbeitsbereich verlasse und die Böschung hinunterfalle. Dort, am Rande des Waldes, der hinter dem Haus meiner Eltern beginnt, liege er dann untätig auf seinem Rücken, unfähig zurück in den Garten oder raus in den Wald zu fahren.
Während Joseph Weizenbaum sein ELIZA-Programm entwickelte, konzipierte zur selben Zeit in den 1960ern Douglas Engelbart mit seinem Team die erste grafische Oberfläche für Computer. Sein Ziel war nicht ein Interface, das eine menschenähnliche Konversation ermöglichen würde. Stattdessen arbeitete er an Werkzeugen, die es Gesellschaften erlauben sollten, ihre kollektive Intelligenz zu steigern. Seiner Zeit um Jahrzehnte voraus, entwickelte er eine Benutzeroberfläche, mit der Nutzer*innen über Entfernungen hinweg gemeinsam arbeiten konnten. Aber auch die Arbeit mit dem Computer selbst legte er kollaborativ an. Nutzer*in und Computer sollten gemeinsam wachsen können und sich gegenseitig neue Fähigkeiten ermöglichen. Von Bequemlichkeit oder Wettkampf keine Spur.
Als ich dann am Abend im Bett liege, beschäftigt mich eine Beobachtung. Umso weniger Leben meinen Eltern noch verbleibt, desto lebendiger scheint ihr Haus zu werden. Irgendwann wird es menschenleer sein, belebt jedoch von vernetzten Geräten und Algorithmen. Sie werden die Eigenheiten meiner Eltern weiterführen.