Digitale Dauerbeobachtung

Hallo, hier ist das Politopia Magazin, euer gesellschaftspolitisches Magazin bei Radio X, dem Frankfurter Bürgerradio. Schön, dass ihr dabei seid, schön, dass ihr zuhört. Wir haben euch heute zwei Vorträge mitgebracht, und zwar von der FIFFKON 2026.

Der Untertitel lautet: Keine Panik – Resilienz in der Polikrise. Die FIFFKON ist eine Veranstaltung des Forums Informatiker für Frieden und gesellschaftliche Verantwortung. Selber beschreiben sie sich so.

Das FIFF ist ein Zusammenschluss von Menschen, die sich kritisch mit Auswirkungen der Digitalisierung und des Einsatzes der Informatik und Informationstechnik in der Gesellschaft auseinandersetzen. Wir denken bei unserer Arbeit auch über deren Konsequenzen nach und wissen, dass nicht alle Probleme technisch lösbar sind. Das sagte also das Forum über sich selbst.

Wir haben jetzt zwei Vorträge, und zwar von der Constanze Kurz. Jetzt einsatzbereit, was sich an digitaler Dauerbeobachtung zusammenbraut. Und der zweite Vortrag, Small AI, über die Vorteile kleiner IT-Systeme von Rainer Rehag.

Die Keynote von Constanze Kurz lässt sich so kurz beschreiben. Während noch alle über die Tech-Bros und ihre Superintelligenzen reden und sich ansonsten die Wunden der letzten Krise lecken, ist eine ziemlich geräuschlose, digitale Aufrüstungsrunde bei deutschen Polizeien und Geheimdiensten im Gange, die ihresgleichen sucht. Die Bundesländer verordneten ihren Polizeien die Erlaubnis für automatisierte Datenanalysen, Verhaltensscanner, biometrische Fernidentifizierung und natürlich noch mehr Staatstrojaner.

Ein erstaunlicher Ausbau der Geheimdienste des Bundes steht an, und der Hackback ist auch schon fast beschlossene Sache. Darüber müssen wir reden. Der zweite Vortrag von Rainer Rehag, Small AI über die Vorteile kleiner IT-Systeme, beschreibt sich so.

Das Kernproblem von IT-Systemen und damit auch KI ist Größe bzw. Komplexität. Aber es geht ja auch anders.

In diesem Beitrag wird Small AI als Denk- und Design-Ansatz vorgestellt, mit dem wir dem aktuellen fatalen Bigger-is-better-Trend bei der Entwicklung generativer KI entgegenwirken können. Wir stellen verschiedene Dimensionen von Small AI vor, zunächst im Hinblick auf die Größe der Modelle, da kleinere Modelle sowohl für das Training als auch für die Inferenz weniger Rechenressourcen benötigen und somit einen geringeren ökologischen Fußabdruck hinterlassen. Wir erweitern die Bedeutung von Kleinheit jedoch so, dass sie auch auf politische, epistemische und kulturelle Bereiche Anwendung findet.

In diesem Sinne stellt Small AI einen alternativen Leitgedanken für konvidiale und postwachstumskompatible IT-Entwicklung dar, die sich auf Low-Tech und Small is Beautiful stützt. Der Beitrag möchte diejenigen, die mit bzw. für KI gestalten, inspirieren und stellt Small AI als einen reflektierten Technikpfad hin zu einer pluralen und lebenswerten Welt vor.

Hören wir jetzt den Vortrag von Constanze Kurz. Jetzt einsatzbereit, was sich an digitaler Dauerbeobachtung zusammenbraut. Vielen herzlichen Dank.

Ich glaube, ich muss auch ein paar Sätze sagen, was mich mit dem FIF verbindet, weil ich es so schön fand, wie Christiane Floyd das erwähnt hat. Bei mir ist Wolfgang Keuschuld, wie eigentlich an allem in meinem Informatikerdasein, der mich mal zum FIF gebracht hat. Und ich bin stolzer Beirat, allerdings nicht sehr aktiver Beirat.

Ich habe ein bisschen bedauert offengestanden, dass wir uns frühzeitig, nämlich vor allen Dingen der von mir ebenfalls hochgeschätzte Rainer Rehak und ich auf ein Thema für die Keynote geeinigt haben. Und ich hätte angesichts der Nachrichtenlage auch ziemlich gerne über KI geredet oder über die Malware, die Anthropic gerade auf Millionen Rechnern verteilt hat oder dergleichen. Aber ich denke, wir sollten uns auch sehr interessieren, was sich da gerade zusammenbraut, würde ich fast sagen, im Nachgang dieses großen Hypes um KI.

Denn was mit dem Sprechen über KI ja auch in die Köpfe, vor allen Dingen in die von Innenpolitikern und Polizeivertretern gekommen ist, ist ja die Idee, dass man alles durchautomatisieren kann und die Zweckbindung, die mal ein Grundsatz war der informationellen Selbstbestimmung, dass man die im Prinzip hinwegfegen könnte. Weswegen ich doch ganz froh bin, dass ich ein paar Sätze sagen kann zu der digitalen Dauerbeobachtung, die uns da jetzt droht. Einsatzbereit fast, abhängig von einigen Ergebnissen von Pilotierungen, die gerade laufen, insbesondere bei den Verhaltensscannern, von Vertragsbedingungen mit US-amerikanischen Konzernen oder auch von Donald Trump, der ja schon mal die digitalen Messer gezeigt hat, die er eventuell gegen die Europäer in der Hand hat und die Nutzung von Technik.

Aber auf jeden Fall sind die rechtlichen Befugnisse im Jahr 2026 im Prinzip entstanden oder sind sehr kurz vor der Verabschiedung. Letztlich war mit so ein paar Monaten schon 2025, aber letztlich war 2026 das Jahr, wo all diese Befugnisse, über die ich jetzt sprechen will und die technische neue, ziemlich auch neuartige Erlaubnisse in unsere Welt gebracht haben, sind eigentlich passiert in diesem Jahr. Es gibt ein paar Ausnahmen, da werde ich gleich noch drüber sprechen, die sind noch in der Mache, aber im Wesentlichen passiert es bei der polizeilichen Gefahrenabwehr, drei Stichpunkte, das ist die biometrische Fernidentifikation und überhaupt die Nutzung von Körperdaten, die jetzt da massenhaft einzieht und die in verschiedenen polizeilichen Befugnissen bereits drin ist und in einigen noch reinkommt.

Also in Niedersachsen etwa läuft gerade erst der Gesetzgebungsprozess, da wird, glaube ich, am 5. November die Anhörung sein. In Schleswig-Holstein ist sie, glaube ich, am 7. Dezember. Also manche sind noch in der Mache, manche sind durch, aber es wird überhaupt nicht mehr wirklich debattiert, ob wir das überhaupt wollen, sondern wenn dann noch, in welcher Form und welche Details in den verschiedenen polizeilichen Landesgesetzen drin sind.

Und dabei reden wir gänzlich über das Gefahrenabwehrrecht, denn das ist Ländersache. Alle Beispiele, die aber jeweils breit getreten werden in den Gesetzbegründungen, sind in der Regel Strafverfolgungsbeispiele. Und auch in den Köpfen der Menschen, die darüber nachdenken, hört man oft, wenn man die Beispiele vor allen Dingen hört, dass es oft um Strafverfolgung geht, aber in Wahrheit ist hier eigentlich nur Gefahrenabwehrrecht, also weit bevor irgendeine Straftat passiert und man einen Ansatz hätte für eine konkrete Straftat.

Der zweite sind die Verhaltensscanner. Unabhängig davon, ob die überhaupt eine sinnvolle, nennenswert, messbare, ordentliche, effizient bieten, nur ich schon mal Zweifel hätte, sind natürlich vor allem die Grundrechtseingriffe, die mit den Verhaltensscannern verbunden sind, weil sie eine Dauerbeobachtung sind und eine automatisierte Dauerauswertung von menschlichem Verhalten, sind überall drin in den Polizeigesetzen. Und als drittes die automatisierten Datenanalysen, zu denen ich gleich noch mal komme.

Ich will nur noch mal erwähnen, warum ich diesen leider von einer Mikrowelle leicht zerstörten, aber die gesamte Laufzeit gültigen Pass noch mal erwähnte, weil wir ja die biometrische Erhebung von Gesichtsbildern, die vor allen Dingen bei den Analysen der Echtzeitfernidentifizierung benutzt werden, weil wir die ja bereits seit über zehn Jahren im Gesetz haben und weil auch die Möglichkeit besteht, für Polizei und auch Geheimdienste dezentral auf diese Daten zuzugreifen. Das heißt, der Grundstock ist ja nicht nur, dass jetzt bei den neuen biometrischen Fernidentifizierungen Daten aus dem Internet von Gesichtern hinzugezogen werden dürfen, übrigens nicht nur Gesichter, geht es auch um eventuelle Audioaufnahmen, also etwa YouTube oder Podcasts, sondern dass wir eben auch einen Teil dieser Daten bereits in sehr hoher Qualität vorliegen haben in staatlichen Datenbanken. Das ist eine Entwicklung, die mich deswegen auch sehr ärgerlich macht, weil es wenig Diskussionen darüber gibt, da werde ich gleich noch mal darüber reden, wo es ein paar Ausnahmen gibt, wo darüber debattiert wird, aber vor allen Dingen, weil sie lang bekannte, ich würde sagen etablierte Forschungsergebnisse in der Technikforschung konterkarieren, etwa den Automation Bias.

In all den Anhörungen, der CCC hat verschiedene Stellungnahmen dazu geschrieben, hört man immer, ja, das sind alles sorgsam geschulte Mitarbeiter, die Systeme werden immer nur als Assistenz benutzt, die Software entscheidet selbstverständlich nicht, selbstständig, da guckt immer jemand drüber und wir haben ein ausgeklügeltes Monitoring, total ignorierend, dass der Automation Bias sehr gut beforscht ist, dass wir wissen, wie schlecht Menschen sind darin, automatisierte Entscheidungen zu bewerten und selbst die, die den Automation Bias beforschen, sind messbar von ihm betroffen, wird komplett ignoriert. Das ist eine interessante Entwicklung, die mir so bei den früheren Gesetzgebungen, wo man ja teilweise auch inhaltlich relativ intensiv noch gestritten hat, gar nicht mehr begegnet, zumindest nicht in den Landtagen. Ohnehin ist das Niveau der Debatten über Technik in den Landtagen geringer, das muss ich deutlich sagen, im Vergleich etwa zum Bundestag oder zu den Debatten in Karlsruhe, da sind schlicht viele Landespolitiker, die sehr viele Themen haben und Technik nur so nebenbei am Rande betrachten und in der Regel sind auch die technisch einzigen Sachverständigen da, die meisten sind halt Juristen oder Polizeivertreter, die die Innereien der Technik auch oft gar nicht im Detail verstehen wollen oder zu verstehen versuchen.

Zudem die Frage der Diskriminierung, das hier ein älteres Beispiel ist, ist schon sechs Jahre alt. Damals war es noch ein Skandal, heute ist es eine Selbstverständlichkeit. Es gibt schon Berichte, etwa in Großbritannien, bei solchen Systemen, die automatisiert sortieren oder der große Fall in den Niederlanden.

Heute ist die Diskriminierung so ein Achselzuckenwert. In den Polizeigesetzen drückt sich das praktisch darin aus, dass sie da einen Satz reinschreiben, nämlich Diskriminierung findet nicht statt, Punkt, Ende. Natürlich auch eine Konterkarierung von allem, was wir über technische Systeme wissen, wie sie funktionieren und wie sich Diskriminierung fortschreibt und auch eine Konterkarierung dessen, dass wir wissen, dass Polizeidaten, um die es hier in der Regel bei der Analyse auch geht, ohnehin schon einen gewissen Racial Bias haben, weil sie in einer Weise zustande kommen, die schon nicht diskriminierungsfrei sind.

Es ist eine interessante Entwicklung, die auch so zeigt, dass eine gewisse Wissenschaftsfeindlichkeit sich auch in die sachverständigen Anhörungen dazu einschleicht oder auch eine gewisse Ignoranz, die natürlich nicht neu ist, die hat man auch sonst in sachverständigen Anhörungen schon erlebt, weil man eben ein Gesetz durchbringen will, weil es um eine politische Meinung geht und nicht um technischen Sachverstand. Aber es hat sich aus meiner Sicht gerade in diesem Jahr gezeigt, wie wenig darüber gesprochen wird und wie wenig die technischen Realitäten, die über solche Systeme bekannt sind, ernst genommen werden. Ein anderes Gegenbeispiel ist explizit Palantir, dieser eine Konzern, der in jedem Hollywoodfilm der so der perfekte Bösewicht, da passt ja alles, größenwahnsinnige oder zweigrößenwahnsinnige Milliardäre, die auch noch eine offene politische menschenfeindliche Agenda fahren, auch noch irgendwie Militärtechnik dran gebunden haben in ihrem Konzern, da passt alles.

Und da ist die Diskussion tatsächlich gekippt. Das heißt, die Gesetze, die nicht vorher schon Palantir-Systeme betrieben haben, und das sind vier in Deutschland, nämlich Hessen, Nordrhein-Westfalen, Bayern und Baden-Württemberg. Die neuen, also Sachsen-Anhalt, Thüringen, Berlin, Schleswig-Holstein, Sachsen, auch Hessen, hatten eine neue Diskussion fürs Update des Polizeigesetzes.

Jedenfalls haben die Länder eigentlich unisono gesagt, ja, wir wollen das machen. Automatisierte Datenanalyse muss her, aber ohne Palantir. Und insofern ist dann die Debatte auch wieder zu kurz, denn die Tatsache, dass alle automatisierte Datenanalysen wollen, ist nicht in Zweifel gezogen worden.

Das ist tatsächlich auch deswegen bemerkenswert, weil auch hier vom technischen Standpunkt her eine sehr, ich würde mal sagen, unterkomplexe Wahrnehmung, weil diese automatisierte Datenanalyse ist, in den Anhörungen und Stellungnahmen so drin ist. Denn hier geht es ja nicht um die Zusammenführung von heterogenen polizeilichen Datenbanken, sondern es geht um eine persistente, immer fort durchgeführte, iterierte Analyse, die stetig bestimmte Scorings bildet und eine Auswertung dauerhaft macht und natürlich auch damit dauerhaft die Daten zweckentfremdet und die Rasterung sozusagen zu einem Normalzustand werden lässt. Und zwar wir sind, ich darf erinnern, im Gefahrenabwehrrecht.

Wir haben also nicht mit Straftaten zu tun, sondern es geht nur darum, dass man diese Daten rastert, um potenzielle Gefährder zu finden. Und da ist aus meiner Sicht zu wenig zu hören von denjenigen, die Technik gut verstehen. Zum Glück, würde ich mal sagen, zum Glück gibt es ein Urteil aus dem Jahr 2023 aus Karlsruhe zu dieser automatisierten Datenanalyse, wo so ein paar Schranken gezogen sind, aber tatsächlich ziehen sich auch die neuen Gesetzgebungsprozesse alle an den Schranken entlang und widmen sich nicht mehr der Frage, ob man das tatsächlich haben will, sondern nur noch, wie man es irgendwie hinkriegen kann, dass es nicht in Karlsruhe wieder gekippt wird.

Das ist schon eine bedenkliche Entwicklung. Allerdings gibt es noch ein paar andere Enklaven in diesen ganzen Fußballwiderstandsnestern, würde ich sie mal nennen. Da gibt es sehr viele Informationen, auch korrekte, Informationsveranstaltungen auch über diese Polizeigesetze.

Und viele Initiativen, die sich in den Bundesländern gebildet haben, die opponieren gegen die technischen Überwachungsmaßnahmen, die docken auch bei diesen Faninitiativen an, weil natürlich die Fußballfans und ihre Familien immer die Ersten sind, die in diesen Dateien landen. Ohnehin sind eine ganze Reihe von erfolgreichen Verfassungsbeschwerden gegen technisierte Überwachungsverfahren auch von Fanbetroffenen geführt worden, die nämlich immer wieder zuerst in diesen Datenbanken landen, weil ja doch viele Fußballfans kriminalisiert werden. Insofern, wer Informationsveranstaltungen dazu besuchen will, denn aus meiner Sicht ist auch in der technischen Community sehr viel Unwissen über die Geschehnisse, gerade in den Bundesländern, weil man jetzt nicht gerade da wohnt, der kann sich bei diesen Fanhilfen andocken und sich da informieren.

Und tatsächlich habe ich noch etwas entdeckt. Es gibt jetzt auch bei den für morgen angekündigten Protesten, das ist ein Screenshot von der Webseite, auch ein Teil der sechs Forderungen bezieht sich auf den Überwachungsapparat. Da dachte ich, das ist aber interessant.

Ich habe auf der Webseite rumgeklickt, aber das war es auch. Das sind die einzigen zwei Sätze. Er kommt auch nicht mehr.

Also offenbar hat sich so ein bisschen technisierte Überwachung zu so einem, naja, ist jetzt auch dabei, sind wir auch dagegen, aber ohne irgendeine Konkretisierung, so ein bisschen in diese Agenda geschlichen. Fand ich sehr interessant zu sehen. Ja, auch an dem Positionspapier.

Ich bin überhaupt gespannt, wie viele Menschen da morgen auf der Straße sein werden und wie die aussehen und wie alt die sind. Gegen Überwachung sind sie auch, aber irgendwelche genauen Details, was denn hier der Überwachungsapparat sein soll oder gegen was man da protestiert oder was man fordert, ist nicht wirklich zu finden, war ich doch ein bisschen enttäuscht. Dennoch, es gibt so kleinere Bereiche, wo eine Menge Informationen sind, aber sehr wenig, wenn man mal von den Diskussionen um den konkreten Konzern pannend hier absieht, wo darüber informiert wird.

Die klassischen Massenmedien haben das Thema eigentlich kaum aufgegriffen, wenn es nicht gerade Streit gab. Es gibt einen kleinen Bereich, gerade in Baden-Württemberg, wo es eben auch Teil des Wahlkampfs war, da wird es mal besprochen, aber sehr wenig in den klassischen Medien. Das war leider noch nicht alles.

Es ist unglaublich, dass ich nach 20 Jahren immer noch sagen muss, es läuft gerade der Gesetzentwurf zur Vorratsdatenspeicherung durch den Bundestag. Sie ist wieder da, der alte Zombie. Und wir haben mehr Staatstrojaner als jemals.

Es ist auch unglaublich, dass mit all diesen Polizeigesetzen, die ich erwähnt habe, sowie auch mit den Reformen im Bund, die vor allen Dingen die Bundespolizei betreffen, wieder mehr Staatstrojaner erlaubt werden, wo die Befugnisse ohnehin relativ groß sind. Und zusätzlich auch noch der Hackback kommt. Der Hackback ist nur eine Umbenennung von dem Staatstrojaner, der ja schon dreimal umbenannt worden ist.

Zwischendurch hieß er ja mal Quellen-TKÜ, der kleine Staatstrojaner. Jetzt heißt er im Wesentlichen Hackback. Und in diesem Gesetzentwurf, wo Hackback auch aktive Cyberabwehr heißt, wird überhaupt nicht auf den ein Jahrzehnt stattfindenden Diskurs über die Staatstrojaner und ihre Grenzen eingegangen, sondern dieser Gesetzentwurf, der erst vor dieser verständigen Anhörung war, vier Wochen oder so drei Wochen her, verzichtet man gänzlich auf diesen ganzen Kleideradatsch, den wir in mehreren Verfassungsverfahren irgendwie erstritten haben.

Das ist weitgehend ohne Richtervorbereit. Es hat wenig gesetzliche Schranken. Es gibt immer noch überhaupt keine Form von Regelung in Deutschland zum Management von Schwachstellen.

Also wer von den Behörden darf unter welchen Umständen welche Sicherheitslücken eigentlich offenstehen lassen, damit er selber hacken kann. Weil mir angesichts der aktuellen Debatte, wo man schon gar nicht mehr hinterherkommt, jeden Tag die schweren Sicherheitslücken noch zu lesen, die sich gerade ergeben, wie mir aus der Zeit gefallen scheint. Aber jedenfalls in diesen neuen Debatten um Hackback taucht die ganze alte Debatte um Staatstrojaner gar nicht mehr auf.

Das ist eine interessante Entwicklung. Im Prinzip eine komplette Ignoranz wurde umbenannt und ist jetzt irgendwie was anderes. Natürlich gibt es auch überhaupt keine Nullregelung in dem Gesetzentwurf für Haftung für Schäden oder so.

Man könnte ja auch hacken in einem System, was zum Beispiel einen Mensch transportiert oder was sich bei Feinden oder Freunden im Ausland befindet. Es gibt übrigens auch gar keine Befristung, obwohl es eine komplett neuartige Technologie ist. Hackback in diesem Sinne gab es für die deutschen Behörden noch nie und trotzdem der Normenkontrollrat hier eine Evaluierung vorschreibt, ist auch keine Evaluierung vorgesehen.

Die wollen nicht mal sagen, wie gut hat es eigentlich funktioniert. Also ich bin erstaunt, mit welcher Schnelligkeit und Diskussionsfreiheit diese ziemlich neuartigen und weitreichenden Befugnisse durchgewinkt werden. Ich glaube, die letzte Debatte zu dieser aktiven Cyberabwehr hatte nicht mal eine dpa-Meldung mehr.

Da gab es dann nur die Zusammenfassung von heute im Bundestag und fertig. Übrigens war bei der Vorratsdatensprechung auch so. Den Tag danach war im Bundestag die Anhörung zur Vorratsdatensprechung.

Auch da gab es wenig Berichterstattung. Auch zu dem neuen Statement des Generalanwalts beim EuGH, der ja auch gerade wieder einen Vorratsdatenspeicherungsfall hat, gab es kaum eine deutsche Meldung. Da hat man noch ein paar britische und belgische Zeitungen gehabt, weil das ein belgischer Fall ist, aber wenig Berichterstattung.

Da ist so ähnlich wie in der KI-Debatte so eine Art Ohnmacht und auch so ein bisschen ohnmächtiges Achselzucken entstanden, ob der Fülle der neuen Befugnisse und auch der Drastik, mit der sie vorgetragen werden und die Alternativlosigkeit, die sich mit den Forderungen auch verbindet. Ich bin noch nicht fertig. Die Geheimdienstreform.

Also als ich dieses Papier auf den Tisch gekriegt habe, es sind 730 Seiten, was die gesamte Geheimdienstwelt und daran anschließend Zusammenarbeit mit Polizei, Behörden und natürlich auch den Verfassungsschutz, das Bundesamt für Verfassungsschutz betrifft und das komplett auf die Füße stellt, vom Kopf auf die Füße. Nein, von den Füßen auf den Kopf, egal. Erlaubnisse, die wir in der Geschichte der Bundesrepublik noch nicht mal debattiert haben, sind da jetzt plötzlich drin, nämlich, dass die operativ tätig werden.

Und Dobrindt, der aktuelle Innenminister von der CSU, der verkauft sie auch noch als etwas Gutes im Rahmen der allgemeinen Aufrüstung und Militarisierung, denn die müssen jetzt operativ tätig werden. Das ist aber genau der Grund dafür, warum es ein Trennungsgebot gab, auch wenn es das legalistisch so nicht gibt. Aber der Grund war ja, dass wir keine operative geheime Staatspolizei mehr wollten, sondern Geheimdienste, die Daten sammeln und eben nicht operativ tätig werden.

Das wird also weggewischt nach Hemdsärmlichkeit, die mir in den letzten Jahrzehnten so noch nicht begegnet ist. Und die übrigens auch wieder mit einem Hackback kommt, auch die Geheimdienste sollen jetzt zurückhacken dürfen. What? Und, ich bin noch nicht ganz fertig, die Kontrolle der Geheimdienste wird ebenso auf eine Weise zurückgefahren, die mir neu ist, denn der einzige echte Fachdienst, der die prüft, ist der Bundesbeauftragte für den Datenschutz und seiner Fachabteilung.

Und die sind gar nicht mehr zuständig, sondern die Kontrolle wird jetzt gebündelt beim Unabhängigen Kontrollrat. Das sind neun Juristen und deren Mitarbeiterstab, die natürlich geheim tagen, die auch gar nicht den Anspruch haben, sozusagen die tatsächliche Tätigkeit der Geheimdienste zu prüfen, sondern die gucken halt, ob die Anforderungen, die Geheimdienste ihnen selber nennen, juristisch okay sind. Und dazu noch wird das massenhafte Abgreifen der Datenverkehre an den Internetknoten nochmal erweitert und die Speicherung der Inhalts- und Metadaten erhöht.

Und dann liest man noch interessanterweise darüber, dass die Juristen finden, angesichts der umliegenden Länder wie Großbritannien oder Frankreich oder andere ungenannte, wahrscheinlich die Vereinigten Staaten von Amerika, Demokratien, seien diese Speicherfristen noch eigentlich verdammt gering. Also es ist eine Reform, die ihresgleichen sucht, die aber aufgrund der Kürze der Zeit, in der die Sachverständigen diese Konvolut von 730 Seiten überhaupt durcharbeiten und analysieren konnten, natürlich auch nur eine Kritik gefunden hat in den Stellungnahmen, die sehr oberflächlich sein kann. Also nur die allerschärfsten Akzente wurden überhaupt kritisiert in den Stellungnahmen.

Dazu gehört natürlich, wie man sich vorstellen kann, jetzt auch KI. Das bedeutet aber im Prinzip, ich habe es hier in Anführungszeichen gesetzt, die wollen natürlich vor allen Dingen weiter automatisieren und diese Riesenfülle an Daten, die sie abgreifen dürfen, irgendwie effizient bewältigen. Da nicht genau definiert ist, wie in den meisten der Polizeigesetzen auch, was das technisch heißt, lassen Sie es technisch auch weitgehend offen, was natürlich auf der anderen Seite auch bedeutet, dass bei den Geheimbehörden, das sind nun mal Geheimbehörden, niemand genau wissen kann, falls nicht mal wieder ein Edward Snowden um die Ecke kommt, was tatsächlich getan wird.

Die ganzen Debatten, die deutschen Debatten im Nachgang des BND-NSA-Untersuchungsausschusses über die Rechtswidrigkeiten, die sich diese Geheimdienste geleistet haben oder auch die Tatsache, dass deren langjähriger Chef ein Landesverräter ist, die parallel zu dieser Geheimdienstreform durch alle Zeitungen weltweit übrigens ging, tut dem kein Abbruch. Niemand hat auch nur ernsthaft Bedenken, dass diese Geheimdienstreform so durchgewunken würde. Willkommen.

Es ist also erstaunlich, auch hier, mit welcher Nonchalance sich das Innenministerium hier durchsetzt und wie wenig öffentliche Debatte, jenseits von ein paar Interessierten, die auch wirklich versuchen, die Öffentlichkeit zu informieren, hier passiert. Na ja, jetzt habe ich sozusagen diesen ganzen Rattenschwanz, kann man noch sehr viel weiter ausführen. Ich habe auch noch nicht alle Aspekte erwähnt, denn alle diese Polizeigesetze haben regelmäßig auch noch ein paar andere Aspekte, etwa Drohnen, Präventiv, Gewahrsam, Fußfesseln.

Da sind also oft noch viele Kleinigkeiten, über die man auch noch informieren könnte. Also ich habe jetzt sozusagen nur die drei größten Blöcke so erwähnt. Da muss man sich natürlich genauso fragen, wie bei dem Vortrag von Christiane Freud, was soll man eigentlich tun? Und das Erste ist, genau wie in dem KI-Hype, wo mich jedes Mal wundert, warum nicht irgendeiner anruft, der technische Ahnung hat und sich einen ablacht über diese merkwürdigen Meldungen in den Nachrichten, wo sie nur die Chefs der Riesenkonzerne nachplappern, ohne überhaupt mal nachzudenken, ob das technisch sinnvoll ist, was der gesagt hat.

Genauso wünsche ich es mir natürlich hier auch. Wir sind eine große Community von Technikern, die sehr wohl versteht, was diese Techniken bedeuten, die sehr wohl versteht, was das für unsere Grundrechte bedeutet. Und wir müssen uns lauter machen.

Das heißt, der Aufruf von Christiane Freud, sich zu engagieren und sich laut zu machen, der würde hier für mich genauso gelten wie für den Bereich der KI. Und das wächst übrigens auch prima zusammen, denn aus meiner Sicht ist zumindest die diskussionslose Durchbringung der Gefahrenabwehrgesetze schon sehr von dieser KI-Diskussion beeinflusst. Denn wenn jetzt alle automatisieren und das ja auch überall einzieht, warum sollte es nicht auch bei den Polizeien einziehen? Das ist mittlerweile zu so einem selbstverständlichen Konsens geworden.

Und ja, ich denke, da müssen gerade diejenigen, die sich mit der Technik auskennen, die auch einschätzen können, welche Wirkung Technik hat, müssen lauter werden. Insofern im Sinne von Christiane Freud wünsche ich mir auch hier mehr Menschenzentriertheit und nicht Polizeinützlichkeit. Und ich glaube, wir müssen stärker übersetzen, was Grundrechte in so einem durchdigitalisierten, automatisierten Alltag eigentlich noch bedeuten können.

Ich glaube, der Widerstand muss auch radikaler werden und lauter. Und damit bedanke ich mich sehr für die Aufmerksamkeit.

Das war der Vortrag, jetzt einsatzbereit. Was sich an digitaler Dauerbeobachtung zusammenbraut, gehalten hat den Konstanz Kurz bei der FIFKON 42. Als nächstes hören wir den Vortrag von Rainer Rehak bei der gleichen Veranstaltung Small AI über die Vorteile kleiner IT-Systeme.

Hallihallo, oh wunderbar, großartig. Ja, schön, dass so viele so früh auch schon da sind. Wir haben ja gestern schon so einiges gehört über die Riesenprobleme, die wir so haben mit KI-Systemen oder Riesensystemen.

Und wir, also das sind drei Leute, Roy Bender, Dave Morrell-Rust und ich, wir haben uns mal so ein bisschen überlegt und wie wir gestern gehört haben, aufbauend auf auch schon alten Ideen, Schumacher und so, mal so ein bisschen zu überlegen, was kann man eigentlich diesem ganzen Narrativ irgendwie, dieses bigger is better irgendwie entgegensetzen und was könnte das auch wirklich für so ein Design bedeuten von solchen Systemen, um einfach mal ein bisschen eine strukturiertere Diskussion zu ermöglichen. Und vor allem, wenn wir immer auch sozusagen die Probleme thematisieren, auch gleich immer mitzudenken, gerade mit so einem technischen Hintergrund, wie er hier ja auch weit verbreitet ist, könnte man sozusagen, wie kann man das anders denken, um auch sozusagen nicht nur in der Defensive zu verbleiben. Also wir sehen ja immer so diese Diskussion über KI und ich finde, einer der wesentlichen Aspekte ist sozusagen die dahinterliegende Denkweise.

Also Sam Altman, CEO von OpenAI, sagt so, na ja, die Menschen reden ja, wie viel Energie so das Training von KI-Modellen braucht, aber es braucht ja auch viel Energie, um sozusagen Menschen zu trainieren. Und da erkennt man so eine Sache, die so sehr weit verbreitet ist, gerade in diesen Kreisen von Leuten, die diese Riesenmodelle bauen. Und das hat Josef Weizenbaum mal genannt als eine der zwei Gefährlichkeiten, wenn man so KI und Menschen gleichsetzt.

Und die erste Gefahr, die Weizenbaum benannt hat, ist sozusagen, die Maschine größer zu machen, als sie ist, um sie dann mit den Menschen zu vergleichen. Das heißt, der Maschine irgendwie Sachen zuzuschreiben, wie die kann handeln und die kann irgendwie denken und hat innere Zustände und so weiter. Und erst, wenn man dieses Aufplustern macht, kann man die Maschine mit den Menschen vergleichen.

Das zweite ist das, was Leute wie Sam Altman machen, und zwar den Menschen so weit verzwergen oder verkleinern, dass er wieder vergleichbar wird mit der Maschine. Und das zieht sich auch so durch in dieser ganzen KI-Diskussion, dass eigentlich menschliche Interaktionen oder menschliche Verhältnismäßigkeit, die Beziehungen, die wir zueinander haben, dass es einfach nur Connections sind, dass Kunst nur eine Ressource ist. Eigentlich ist alles eine Ressource, auch Menschen und Denken und so weiter.

Das sind alles nur Ressourcen, die man ausbeuten kann und die man sozusagen irgendwie in Zahlen ausdrückt. Und das sieht man ja auch daran, als so Modelle veröffentlicht wurden, mit denen Musik gemacht werden konnte, war ein Argument auch von Sam Altman und anderen. Na, ist doch schön, da muss man endlich dieses eklige Musikinstrument spielen, nicht mehr machen.

Und dieses Musiklernen und sozusagen diese ganzen Sachen, die einen eigentlich nur stören auf dem Weg hin zum Produkt des Liedes. Und da merkt man, da steckt im Hintergrund so eine bestimmte Denkweise. Und diese Denkweise, die bildet sich dann auch in den Strukturen ab, die wir bei gerade diesen KI-Modellen, die wir jetzt gerade so um uns sehen, tatsächlich auch materiell abgebildet ist.

Also es ist ein Riesenausbeutungssystem, was dahinter steckt. Und notwendigerweise, denn um so ein Riesenmodell zu bauen, brauche ich halt viel Energie, viele Daten, Rieseninfrastrukturen, viel menschliche Arbeit, die im Hintergrund abläuft, natürlich auch prekär, um so eine Art durchgängige Einverleibung des Weltwissens, also wie gut es funktioniert, ist eine andere Diskussion. Aber überhaupt diese Denkweise, diesen Wunsch und Ansatz zu haben, das steckt dahinter.

Und wir sehen auch diese ganze Glaubenskonstruktion, die clasht so ein bisschen. Alleine 2019 gab es auch mal so ein Zitat, auch bei OpenAI. Naja, wie wollt ihr denn eigentlich Geld verdienen? Naja, wir bauen erstmal so eine Artificial General Intelligence und dann fragen wir die, wie wir Geld verdienen.

Wo man auch so merkt, wir sind noch nicht da, aber das ist so ein bisschen, was Bianca Prietl auch Data Fundamentalism nennt. Wenn eine Technik nicht funktioniert, dann liegt es nur daran, weil wir noch nicht genug Daten haben. Wenn wir mehr Daten hätten, dann würde das alles funktionieren.

Und das quillt so aus allen Ritzen. Ich habe hier in der Mitte noch diese Striche mitgebracht. Die zwei roten sind quasi die Emissionen von zwei Datacentern, die gerade von Amazon geplant werden, um generative KI zu trainieren.

Und dieser Strich links daneben, das sind die Emissionen des niederländischen Energienetzes. Also die Datacenter, die neu gebauten, haben Emissionen auf der Ebene von Industrieländern, sozusagen der Energieerzeugung von Industrieländern. Das ist sozusagen dieses Bigger is Better in so Daten und System gedacht, übersetzt sich ganz direkt in Bigger, in Emissionen, in Daten, in sozusagen wirklich ganz materiellen Verschleiß bis hin zu der E-Waste, der dann sozusagen auch wieder in der Majority World, also im globalen Süden landet.

Und wir haben uns zu dritt halt in dem Paper, was die Grundlage ist, auch gefragt. Naja, also der Konflikt ist ja nicht zwischen irgendwie Technik, ja oder nein. Also sozusagen gehen wir in die Höhle zurück oder wollen wir irgendwie alle Riesensachen haben? Sondern es mal andersrum zu fragen mit Michael Quedt, der so digitalen Postwachstum so ein bisschen sich damit sehr viel beschäftigt hat, um die Frage so zu stellen, falls es eine Rolle für diese Art von KI im breiteren Sinne überhaupt gibt, da schließe ich so ein bisschen an Christiane Floyd auch an von gestern, falls es diese Rolle geben kann, sozusagen wie, welche Art von KI würde denn überhaupt kompatibel sein mit einer Welt, die irgendwie dauerhaft bewohnbar ist, mit so einer Postwachstumsagenda.

Also nicht zu denken, was kann man mit diesen Riesenmodellen machen, sondern zu überlegen, so ist eine Welt, in der wir gut leben können, inter- und intragenerationale Gerechtigkeit, Ressourcen und so weiter. Wie würde eine Technologie aussehen, die damit kompatibel ist? Also andersrum gefragt. Also die Social und Environmental Perspectives auch mitzudenken und eben nicht auf diese Regenbogenerzählungen reinzufallen, sondern vielleicht erst mal loszuwerden.

Und die erste Idee, die dann immer kommt, ist, naja klar, wir wollen halt diese Riesenmodelle haben, aber wir machen die einfach Open Source. Wir machen einfach diese Modelle sozusagen sichtbar und dann passt es einfach alles, weil Open Source Software, da funktioniert es ja auch sehr gut. Allerdings, unten in einem anderen Paper haben wir auch gezeigt, dass diese Offenheit, zum Beispiel Open Weights oder selbst wenn sozusagen die Hinweise, welche Daten da reintrainiert worden sind, wenn die offen sind, kann ich ja immer noch nicht so ein Riesenmodell trainieren, wenn ich nicht zufällig sieben Data Center besitze.

Das heißt, diese Offenheit ist eigentlich eine Chimäre, die davon lebt, dieses Glitzern von der FOSS-Community auf irgendwie KI-Systeme zu übernehmen. Man kann die vielleicht dann selber betreiben, so eine Open Weight-Modelle oder die quantisierten und destillierten und so weiter, aber ich kann sie nicht selber neu trainieren. Dafür brauche ich wieder, und das sind dann sozusagen wieder die Riesenfirmen.

Also Open Source alleine irgendwie scheint es so ein bisschen wie Elektromobilität, ist quasi notwendiges Kriterium, aber nicht hinreichendes Kriterium. Und wir haben also gefragt, naja, was für eine Art von AI-System würde also sozusagen zusammenpassen und man kann AI auch übersetzen mit algorithmische Intensivierung. Und wir haben uns ein bisschen überlegt, naja, was wirklich helfen würde, wäre kleine Modelle, kleine Systeme, kleine Modelle.

Und haben dann mal überlegt, was heißt denn Kleinheit eigentlich und kamen dann zu Dimensionen der Kleinheit. Fanden wir irgendwie alle ganz toll. Und Dimensionen heißt, die beeinflussen sich ein bisschen, aber eigentlich sozusagen liegen sie auch so ein bisschen quer.

Und wir haben dann die Kleinheit von Modellen und das kann sozusagen, wir haben es auf KI bezogen, aber es kann man natürlich eben auch auf andere Systeme verstehen, aber dass es hier darauf fokussiert ist, erstens die Kleinheit des ökologischen Fußabdrucks. Okay, ist ein bisschen naheliegend. Die Kleinheit der Parameter in diesen KI-Modellen, wenn man jetzt mal über LLMs nachdenkt, mit künstlichen Neuronalnetzen zum Beispiel.

Die Kleinheit der notwendigen Datengrundlage, die Kleinheit der Einzelsysteme, also nicht ein großes, sondern kleinere Einzelsysteme und zum Schluss auch die Kleinheit des epistemischen Anspruchs, also was dieses Modell an Wissen verarbeiten kann. Weil aktuell ist der Anspruch halt, egal, diese Systeme sind groß, viele Daten, die können einfach alles, sozusagen ist der Anspruch. Und hier aber zu sagen, naja, aber es gibt ja verschiedene Arten zu denken und verschiedene Arten und sozusagen manche sind gar nicht abbildbar, aber man kann ja ganz verschiedentlich irgendwie Wissen abbilden, ob es jetzt irgendwie singen oder schreiben oder sozusagen was im Fernzentrum steht.

Und diese Unterschiede überhaupt möglich zu machen, heißt, sagen wir, dass das eben eine Kleinheit der Einzelsysteme machen muss oder bedingt. Das heißt, und das ist quasi die Dimension der Kleinheit, und dann sieht man so die Bigger-is-Better-Denkweise, das ist jetzt ein Bild aus dem Paper, und was dann diese Klein-Small-AI-Idee bedeuten würde. Also aus der Unsichtbarkeit des ökologischen Footprints kommt die Verantwortbarkeit.

Bei den Parametern wird eben aus Wachstum, Wachstum wird sozusagen Genügsamkeit. Bei dem Daten-Input wird quasi aus dem Anspruch, alles zu nutzen, die Frage der Bedürfnisse für die Lösung eines Problems. Bei der Verteilung wird quasi sozusagen diese, die Anrufung an so ein riesen Zaubermodell, kommen wir zur Konvivialität, also zur Unterstützung der eigentlichen Probleme.

Und bei der Pluriversalität kommen wir quasi von dem Universalheitsanspruch zu einem Unterschied, der aber absichtlich unterschiedlich ist, weil in diesem Unterschied sozusagen wir eine Stärke sehen. Das sind sozusagen die Dimensionen der Kleinheit. Und jetzt kann man auch sozusagen sogar so weit gehen, das beschreiben wir dann auch so ein bisschen, welche Entwurfs sozusagen Anker dadurch entstehen, wenn man jetzt dieses wilde Bild oder diesen Übergang macht.

Ich gehe da jetzt mal nicht drauf ein in detail, gerne nachlesen. Aber wir haben uns sozusagen auch bemüht, da wirklich so mehr oder weniger in so eine Richtung zu gehen, dass jetzt Designer und IT-Entwickler sich das angucken und sagen, das ist eine Sache, die wir vielleicht sogar operationalisieren können. Und wie geht es jetzt weiter mit diesem Projekt oder mit dieser Idee der kleinen Modelle? Erstens wollen wir sozusagen diese Idee als konstruktive Idee natürlich verbreiten und auch konkrete Beispiele sammeln.

Also im Paper haben wir auch ganz viele Beispiele genannt. Das ist hier zum Beispiel ein Bild vom Radmesser, wo es darum ging, mit so einem trainierten System die Abstände zu messen, wie irgendwie Autos Fahrräder überholen in Berlin, was tatsächlich dann auch eine Datengrundlage geschaffen hat, um eine Rechtsgrundlage zu verändern und die Abstände sozusagen zu vergrößern. Es gibt viele kleine Modelle, egal in der Landwirtschaft, um Pflanzen zu bewässern.

Was gibt es aber auch mit Übersetzung. Neben Firefox ist ein Sprachmodell drin, um Webseiten offline zu übersetzen. Das sind auch kleine Modelle.

Dann natürlich jetzt auch infrastrukturell zu denken. Das heißt kleine Modelle, die brauchen auch keine Hyperscaler zum Beispiel. Also ein Krankenhaus braucht keinen Hyperscaler.

Und dann wird es möglich, technisch zumindest, es ist notwendig, aber nicht hinreichend, zum Beispiel sowas wie, da werden wir nachher was darüber hören, gemeinschaftliche Rechenzentren sich mal zu überlegen. Und das nächste, was wir noch machen, ist, dass wir jetzt so ein Mozilla-Projekt mit begleiten. Vor zwei Tagen ist die Submission aufgegangen, wo man sich da melden kann.

Und da geht es explizit um Small AI. Und die haben unser Paper genommen, um sozusagen diesen Aufruf mit zu strukturieren. Und da werden wir das so ein bisschen begleiten.

Und die sagen eben auch, naja, eine andere Art von irgendwie AI ist possible. Und zwar nicht die Große. Wir wollen die Große nicht.

Wo genau unsere Behauptung auch ist, man kann so eine große KI nicht irgendwie ethisch einsetzen, weil das Große an sich das schon das Problem ist. Das ist so ein bisschen wie, wir bauen uns irgendwie einen Panzer und dann setzen wir den ethisch ein. Nee, da gibt es schon vorher, sind schon viele Entscheidungen falsch gelaufen.

Und die Fernziele sind also, wie können wir das Large verlernen? Und wie können wir uns das If zurückholen? Also ob wir für eine bestimmte Frage überhaupt sozusagen KI einsetzen wollen und einfach mal den Denkraum wieder zu eröffnen, zu sagen, nee, dafür nicht. Und vielleicht sogar für ziemlich viel nicht. Und ganz zum Schluss noch abschließend.

Diese Denkweise, hoffen wir, auch sorgt so ein bisschen dafür, dieses kollektive Design als Prinzip noch wieder zu stärken, weil diese Kleinheit eben auch Partizipation ermöglicht. Und so ein bisschen wie auch Christiane Floyd 88, aber auch sozusagen neuere Arbeiten schon sagen, wir müssen weniger auf die Endprodukte gucken, wie wir die anders benutzen, sondern eher darauf gucken, wie wir Designprozesse an sich selber verändern und darauf anpassen. Und ein Fokus ist auch auf Infrastrukturen zu machen, statt auf Endanwendungen.

Und wir brauchen auch neue Narrative. Also da gibt es dann so Sachen wie irgendwie digitale Suffizienz oder Digital Degrowth oder Solarpunk oder digitales Commoning, digitaler Dekolonialismus, Konvivialität. Das sind so Denkräume und in denen haben dann auch kleine Modelle Platz.

Und dann bedanke ich mich. Also meine Frage geht grundsätzlich dahin zu dem, was diesen Widerspruch zwischen Groß, Klein, der hier aufgemacht ist. Für mich ist das ein neuer Dualismus, wie es lokal verbreitet und so weiter.

Und was ich finde, diese dualistische Denkweise, die geht es zu überwinden. Die stellt sich auch in der Frage, können diese Maschinen überhaupt agieren? Natürlich agieren die, die agieren nur nicht mit Verstand. Und die Frage ist, finde ich vielmehr, wie verändert diese Technologie uns selbst und welche Möglichkeiten findet man, jenseits zum Beispiel von Gigantonomie, wirklich andere Fragestellungen zu eröffnen, die nicht mit Dualismus arbeiten.

Ich glaube, also ohne jetzt diese philosophische Diskussion aufmachen zu wollen, ich finde eine Definition von Agieren selber nicht sinnvoll, die einschließt, dass ein Stein, wenn er losfällt, wenn ich ihn loslasse, sozusagen nach unten agiert. Das halte ich nicht für sinnvoll. Die Frage, glaube ich, ist hier, das grundlegende Problem ist hier, dass wir identifiziert haben, dass diese Riesenmodelle an sich, so ein bisschen manche vergleichen das vielleicht wie Kernkraft oder so, die kann man nicht klein bauen.

Das heißt, wenn man sich dafür entscheidet und sagt, wir wollen keinen Dualismus, wir gucken erstmal sozusagen ganz offen und ganz frei über alle Nutzungsmöglichkeiten und so weiter, erkennt man, dass diese Modelle aus einem bestimmten Gesellschafts-, Wirtschafts- und Ressourcenbild heraus entstanden sind und diese extraktiven Elemente sich genau in diesen Modellen wiederfinden. Und der Dualismus ist quasi nicht irgendwie groß oder klein, sondern der Dualismus, den wir versuchen aufzumachen, und es ist ja nur ein analytischer, wir könnten jetzt nicht sagen, es sind 17,9 Milliarden Parameter, alles darunter ist klein, alles darunter ist groß. Das würden wir gar nicht sagen.

Wir wollen ja erstmal so ein Denkkonstrukt anbieten. Und zwar klein hieße in dem Sinne nicht extraktivistisch. Und wenn man dann sagt, aber diesen Dualismus finde ich nicht so gut, dann sagt man auch, ich finde den Extraktivismus eigentlich nicht so schlecht.

Und dagegen sozusagen würden wir uns halt stellen. Aber das kann man natürlich auch noch diskutieren. Aber das wäre sozusagen die Motivation, wie wir da rangegangen sind.

Hi, ich bin Philipp. Hi Philipp. Und ich frage mich so ein bisschen, ist jetzt schon dieser ethische Aspekt angeklungen.

Und da habe ich einen großen Zwiespalt in mir. Inwieweit kann man überhaupt diese KI-Systeme, wie sie jetzt sind, von Hyperscalern ethisch verwenden? Gerade weil sie eben in einem universitären Kontext oder auch natürlich in Jobs mittlerweile einem ja quasi aufgezwungen werden. Ja, total.

Total. Also ich glaube, dieses Paper oder diese Ideen sind ja genau aus dem, was jetzt beschrieben worden ist, entstanden. Weil wir genau auch sagen, sich nur hinzustellen und zu sagen, wir wollen diese Großen nicht, genau aus diesen Gründen würde ich hundertprozentig zustimmen.

Aber wir wollen ja sozusagen, es gibt ja Teile, die irgendwie, was weiß ich, Bilderkennung oder so, die man haben will. Und jetzt braucht man ja irgendwie Begriffe, um zu sagen, wir wollen eher das nicht und wir wollen eher das schon. Und genau für diese Diskussion haben wir uns sozusagen überlegt, dieses Konzept mal ein bisschen weiter auszuarbeiten, um genau die Diskussion auch zu führen.

Weil, wenn ich mir überlege, was weiß ich, in der Bibliothek, meistens brauche ich da auch gar keine sozusagen subsymbolische KI. Also das ist ja schon der erste Schritt. Deswegen habe ich an der Stelle auch gesagt, irgendwie dieses If wieder zurückzuholen.

Die Antwort kann ja auch oft sein, nee, wir wollen die gar nicht haben. Also es ist quasi, es geht genau hier darum, in dieser nicht technischen Dimension endlich wieder in die Diskussion reinzuholen. Und ich würde auch sagen, in 90 Prozent der Fällen braucht man auch nicht mal irgendein KI-System, um irgendeine Frage zu lösen.

Und wenn es jetzt um irgendwie Bilderkennung geht, dann kann man trotzdem sagen, nee, wir wollen aber nicht irgendwie für alles CGPT nehmen oder was weiß ich, sondern wie wäre es dann mit einem kleinen Modell? Gibt es hier Leute, die, wie könnte eine Uni oder eine Stadt oder eine HackerInnen-Community, wie könnten die sowas bauen und betreiben und sozusagen solidarisch Commons-basiert sowas zu betreiben? So in die Richtung ist es auch gedacht, genau. Die großen Sprachmodelle skalieren ja wohl nicht. Das heißt, wenn ich ein mehrfaches an Output haben will, sei es jetzt in der Güte oder in der Menge, dann muss ich ein noch viel größeres Mehrfaches an Daten reinstecken und auch an Energie kommen diese Systeme nicht selber jetzt sowieso an ihre Grenzen, weil wenn ich, sagen wir mal, den Bedarf vertausendfache, dann bin ich über Weltniveau und dann geht es sowieso nicht mehr.

Ich habe so ein bisschen zu der Oberfläche dann eine Frage. Also wenn es darum geht, wie das gerade benutzt wird, ist ja auch so ein bisschen dieses Convenient, dass man einfach einfällt halt in das, gibt man was ein und dann kommt irgendwie alles raus und mehr. Aber ist es auch so gedacht, dass es sozusagen im Sublevel so ein bisschen diese kleineren Baukästen gibt und vielleicht an der Oberfläche trotzdem noch so dieses Gefühl hat von Universalität oder geht es auch darum, das so komplett zu trennen und was es ja auch wieder erschweren würde für jetzt so diese allgemeine Nutzung? Beides finde ich sehr, sehr gute Punkte.

Ich nehme mal den ersten zuerst. Ich glaube, was wir hier sozusagen, es ist ja sowohl eine technische als auch eine diskursive Ebene und in der diskursiven ist sogar irrelevant, ob diese Systeme das alles leisten können, weil auch wenn sie das nicht können, werden sie dafür eingesetzt. Es fällt nur nicht so auf, weil die, die darunter leiden, keine wenig Möglichkeiten haben, sich zu beschweren.

Die leiden einfach und dann wird es schlechter für sie und in dem Sinne würde ich zustimmen mit der Analyse. Aber wir versuchen sowohl diskursiv als auch technisch einen Vorschlag zu machen. Und bei der Frage, da würde ich auch nochmal an Christiane anknüpfen.

Ich glaube, einen Teil dieser Bequemlichkeit, dieser einen Chat sozusagen, das Fenster zur Großküche irgendwie, bei der wir dann oft doch nur den TNT bestellen, das war das Beispiel, was, glaube ich, ganz gut funktioniert hat. Ich glaube, dieses Fenster sorgt auch dafür, dieses Cognitive Outsourcing und diese Reliance. Ich glaube nicht, dass das, müsste man diskutieren, aber die psychologischen Untersuchungen, die ich so kenne, die sorgen dafür, dass selbst die Fragestellung sozusagen jetzt ausgelagert wird.

Und da ist quasi, wo ist da die Verantwortung und so weiter. Aber sozusagen die Systeme bieten sich ja schon an, als wir machen das für dich. Und ich würde denken, wenn man den Menschen ernst nimmt und auch die Werkzeughaftigkeit der Systeme, ist es kein Nachteil, sondern ein Vorteil, wenn die kleinteiliger sind und sozusagen ein bisschen wieder in den Vordergrund bringen, was willst du eigentlich gerade tun und was wäre ein Werkzeug dafür? Und nicht irgendwelche Tech-Billionaires sozusagen im Hintergrund bei einer Frage, die gestellt wird, dir entscheiden lassen, wie das sozusagen interpretiert wird und so weiter und so weiter.

Also in dem Sinne würde ich sagen, ist das ein Vorteil, nicht mehr diese alle umfassenden Interfaces zu haben. Können wir diskutieren. Das war jetzt der Vortrag von Rainer Rehak, Small AI.

Über die Vorteile kleiner IT-Systeme. Gehalten hat er den bei der Vivcon 42, die hat den Untertitel, keine Panik, Resilienz in der Polykrise. Davor haben wir gehört, die Keynote von Konstanze Kurz bei derselben Veranstaltung.

Jetzt einsatzbereit. Was sich an digitaler Dauerbeobachtung zusammenbraut. Unsere Sendung könnt ihr nachhören auf unserer Webseite polytopiamagazin.de. Dort haben wir alle unsere Sendungen versammelt und haben auch in den Shownotes, also in den Sendungsnotizen, Links zu den Originalvideos der Vorträge bzw.

weitere Informationen. Ihr hört das Polytopia Magazin hier auf Radio X, jeden Mittwoch, 16 Uhr. Wir hören uns also wieder nächste Woche.

Bis dann.