Die letzte Talkrunde von „Maybrit Illner“ am letzten Donnerstag fand ich interessant. Ihr Titel lautete: „Künstliche Intelligenz – Maschine gegen Mensch?„. Die Zusammensetzung war gelungen. Die Teilnehmer der Runde markierten, wie es leider nicht häufig der Fall ist, kontroverse Standpunkte, die mal nicht auf politischen Motiven beruhten.
Ich würde sagen, die Beiträge aller Teilnehmer machten, wie selten in Talkshows, die unterschiedlichen Perspektiven der hochkomplexen Thematik deutlich.
Standpunkt von der falschen Seite?
Dass in Deutschland das Votum Elon Musks für ein Moratorium der AI-Entwicklung so in den Vordergrund der Diskussion gespült wurde, stört mich, weil damit hauptsächlich die Frage verbunden wird, welche ökonomischen Interessen des momentan zweit vermögendsten Mannes der Welt eine Rolle spielt. Neue Nachrichten verstärken wohl diese Sicht auf das Thema.
Dass gerade diese Fokussierung auf etwaige wirtschaftliche Interessen einzelner Unterzeichner des offenen Briefes so eine große Rolle spielt, finde ich schade. Schließlich haben Tausende von Leuten, AI-Experten ausdrücklich eingeschlossen, diesen vorsichtigen Standpunkt geteilt und sich für ein mindestens 4-monatiges Moratorium ausgesprochen. Dass sich darunter auch einer der Teilnehmer an der Illner-Sendung befand, sei hier erwähnt. Ja, Ranga Yogeshwar hat den Brief ebenfalls unterzeichnet. Viele tausend Unterschriften liegen inzwischen vor.
Anke Domscheid-Bergs und Miriam Meckels Beiträge fand ich besonders interessant. Sosehr mich das Thema AI auch fasziniert, die Bedenken, die u.a. von Ranga Yogeshwar vorgetragen wurden, sind vermutlich nicht von der Hand zu weisen.
Übertreibungen à la Musk?
Elon Musks neigt leider zu starken Übertreibungen. Für ihn ist „Künstliche Intelligenz“ gefährlicher als die Atombombe.
Derweil begeistern sich – trotz längst stärker auftretender Negativ-Effekte wie Deepfakes, die von der für alle zur Verfügung stehenden AI-Werkzeuge erstellt wurden, die wichtige, weitreichende Fragen aufwerfen – und zwar keinesfalls „nur“ im Bereich der Nutzung der Möglichkeiten für jede und jeden.
Deepfakes mit zerstörerischer Kraft
Domscheid-Berg führte bei Illner dieses Bild in die Diskussion ein: „Deepfakes kann jeder Depp im Keller machen„. Das ist wohl so, und wir Menschen müssen uns notwendigerweise mit der Frage befassen, welche Mittel und Wege wir finden, gewissen Machenschaften böswilliger Menschen und Gruppen etwas anderes entgegenzusetzen als staatliche Regulierungen. Politikern fällt an dieser Stelle meist nur „Bildung“ ein. Es wäre schön, wenn sie diesem im Grund richtigen Ansinnen, vor allem Taten folgen ließen. Die Baustelle namens „Bildungswesen in Deutschland“ wurde chronisch vernachlässigt, obwohl dieser Tatbestand schon seit der ersten PISA-Studie erwiesen ist.
Moderne KI-Systeme werden jetzt bei allgemeinen Aufgaben menschlich wettbewerbsfähig,[3] Und wir müssen uns fragen: Sollen wir zulassen, dass Maschinen unsere Informationskanäle mit Propaganda und Unwahrheit überfluten? Sollten wir alle Jobs, einschließlich der erfüllenden, automatisieren? Sollten wir nichtmenschliche Köpfe entwickeln, die uns schließlich zahlenmäßig überlegen, überlisten, obsolet machen und ersetzen könnten? Sollten wir riskieren, die Kontrolle über unsere Zivilisation zu verlieren?
Quelle
Solche Entscheidungen dürfen nicht an nicht gewählte Technologieführer delegiert werden. Leistungsfähige KI-Systeme sollten erst dann entwickelt werden, wenn wir sicher sind, dass ihre Auswirkungen positiv und ihre Risiken beherrschbar sind. Dieses Vertrauen muss gut begründet sein und mit dem Ausmaß der möglichen Auswirkungen eines Systems zunehmen.
In der jüngsten Erklärung von OpenAI zur künstlichen allgemeinen Intelligenz heißt es: „Irgendwann kann es wichtig sein, eine unabhängige Überprüfung zu erhalten, bevor mit dem Training zukünftiger Systeme begonnen wird, und für die fortschrittlichsten Bemühungen, sich darauf zu einigen, die Wachstumsrate der Rechenleistung zu begrenzen, die für die Erstellung neuer Modelle verwendet wird.“ Dem stimmen wir zu. Dieser Punkt ist jetzt.
Überall hypt künstliche Intelligenz. Midjourney, ChatGPT und die anderen können sich an Zulauf, auch zahlendem, wie ich annehme, wohl nicht beklagen. Schließlich wussten die federführenden Unternehmen ganz bestimmt, welche Cashcow sie der Öffentlichkeit vorstellen. Ich habe gesehen, dass die MS Suchmaschine „Bing“ auch kostenlose Werkzeuge zur Bildgenerierung via AI anbietet. Allerdings scheint die Leistungsfähigkeit mit Midjourney und Alternativen noch nicht so richtig mithalten zu können. Aber das mag eher an meinem Unverständnis als am Tool liegen.
Nicht nur Bilder und Texte
Mich interessiert neben all dem, was diskutiert wird, vor allem die Frage der Urheberrechte an AI-erzeugten Bildern / „Fotos“. Kann man selbsterzeugte KI-Bilder bloggen, sofern man diese nicht auf kommerzielle Weise einsetzt?
An solchen virtuellen Erzeugnissen kann doch vermutlich niemand ein Urheberrecht besitzen. Nicht die KI selbst, nicht die Plattform, die sie zur Verfügung steht und auch kein User, der anhand seiner Prompts Dinge kreiert, die im Falle einer auch gleichlautenden Wiederholung des Prompts vielleicht ganz anders aussehen wird. Ähnlich wird das Problem bei ChatGPT sein. Wer soll hier als Quelle genannt werden, wenn man diese Frage angesichts der Möglichkeiten überhaupt ernst nehmen würde?
Schnelle Fortschritte in der Entwicklung
Übrigens „arbeitet“ das gemeine Volk im Moment noch z.B. bei ChatGPT mit Version 4. Die Experten basieren ihren Appell jedoch auf die Version > 6. Das könnte doch bedeuten, dass die Fortschritte der Entwicklung selbst für diese Experten gerade unheimliche Möglichkeiten bereithalten. Wenn diese Leute von Gefährdung der Zivilisation oder der Demokratie reden, tun sie das sicher nicht, um sich wichtigzumachen.
Wenn Yogeshwar davon erzählt, dass KI bei vielen Experten dieses Metiers als Blackbox gilt und manche sogar sagen, dass sie nicht wüssten, was innerhalb dieser Blackbox tatsächlich abläuft, würde ich meinen, dass es an der Zeit ist, ernsthaft über die Zukunft zu reden. Aber bitte: Übergeben wir solche Fragen nicht irgendwelchen Politikern, die das Feld im besten Fall zur Profilierung nutzen und zudem als Bremser wirken.
Wir müssen auch daran denken, dass Machthaber in autokratischen Regime sich solche Gedanken nicht zu machen brauchen. Die setzen um, was sie für opportun halten. Wir sehen das in China. Dort wird KI bereits in großem Umfang eingesetzt. Auch, um die Bevölkerung gefügig zu halten.
Vielleicht ist auch an dieser Sichtweise etwas dran? Schließlich braucht es für revolutionäre, technische Entwicklung auch eine Bereitschaft, die wir in Europa mit unseren demografischen Voraussetzungen eher schwer wecken können.
„In China gibt es einen nahezu unstillbaren Durst nach Fortschritt in allen Bevölkerungsschichten.“
Jeffrey Rochette, Entwicklungsleiter ZF China
Außerhalb der Gäste ist das wohl wieder eine Propagandashow geworden? Ein Wunder, dass das nicht noch für den Ukrainekrieg genutzt wurde. Das dürfte aber noch kommen.
Interessant ist dabei doch, dass es um die Gentechnik vergleichsweise still geworden ist.
China da als Hauptproblem zu sehen, ist ziemlich naiv.
Die geschlossenen KI-Projekte der Waffenschmieden dürften wesentlich aufschlussreicher sein.
Dabei immer bedenken: Das dort Besprochene ist offene KI, sollte also allen zur Verfügung stehen, was natürlich darauf hinausläuft, dass es erstmal den Reichen zur Verfügung stehen wird.
Das das immer so thematisiert wird, wie die Wagnergruppe der Russen? Dabei ziehen die Söldnerklitschen der Amis schon seit Dekaden raubmordend durch die Weltgeschichte. Welchen Einfluss KI wohl da haben wird?
Wollen wir mal nicht so sein. Die schützen ja auch unsere VIPs, wo wir es nicht können.
Deutschland will ja China durch Indien als Werkbank ersetzen. Daher tritt der Deutsche dort auch entsprechend auf: „Wir waren besser, wir sind besser und wir werden immer besser sein!“ China hat etwas über 20 Jahre gebraucht um Paroli bieten zu können. Allerdings spricht der Deutsche noch immer vom billigen Kopierchinesen. Da bin ich ja gespannt, wie das in Indien so laufen wird, gerade auch mit KI.
Die Technik ist jetzt da, also wird sie auch genutzt. Auch gegen Dich. Das läuft so ab, wie in einer US-Serie: „Alles was sie sagen, wird gegen sie verwendet.“ Alles, was Sie tun und denken allerdings auch.
Da sollte man schon präpariert sein. Das war das, was Orwell meinte mit: „If you want a picture of the future, imagine a boot stamping on a human face – everytime and forever.“
Das Positive ist, dass Deutschland auch diese Entwicklung schlicht verpennt. Nicht mal die nötige Infrastruktur schafft es dafür, da Industry First, Bedenken: Second.
Hallo Juri, Propaganda habe ich in dieser Sendung nicht entdeckt. Es war sachlich und einseitig wurde es aufgrund der unterschiedlichen Standpunkte auch nicht.
Der Hinweis auf die Gentechnik beschäftigt mich in diesem Zusammenhang ebenfalls. Da haben auch Enquetekommissionen getagt und am Ende wurden Vorgaben definiert, die in anderen Ländern – auch des Westens – keine Rolle spielen. Die Dinge, die gemacht werden können, werden auch gemacht. Egal, welche Art von Regulierung auch immer vorhanden ist.
In China, lieber Juri, werden Teile dieser – ich nenne es einmal Technologie – längst dazu genutzt, die Einwohner des Landes zu drangsalieren. Hast du das übersehen bzw. ist das nicht ein Grund dafür, China als abschreckendes Beispiel für den Einsatz von AI zu nehmen? Wenn du glaubst, dass die Dinge ohnehin ihren Lauf nehmen – ob nun mit oder ohne geplante Reglementierungen – kann man das natürlich so sehen. Die Erfahrungen sprechen aus meiner Sicht auch dafür. Trotzdem gibt es aus meiner Sicht, bisher kein Land, in dem die Technik so exzessiv gegen die eigene Bevölkerung eingesetzt wird, wie in China. Kannst du Belege dafür bringen, dass ich mich irre? Also – was bitte ist an dieser Sicht auf die Gegenwart des chinesischen Systems bitte schön naiv?
Dass der militärisch-industrielle Komplex an dem Thema seine Freude hat, liegt auf der Hand. Bisher werden diese Errungenschaften allerdings nicht – und das ist DER Unterschied für mich – nicht gegen die eigene Bevölkerung eingesetzt. Aber es liegt auf der Hand, dass die Militärs und ihre Gönner das Thema AI längst in den Mittelpunkt eigener Anstrengungen stellt. Wahrscheinlich wäre die Entwicklung längst noch nicht so weit, gäbe es die Interessen des Militärs nicht.
Gesellschaftskritische Aspekte mit der Entwicklung von KI zu verbinden, liegt auf der Hand. Aber Herrgott, wir kommen nie voran, wenn allein die Angst davor, sich die Hände mit solchen Entwicklungen schmutzig zu machen, dazu führt, dass außer Bedenken nichts mehr kommt. Bei dir habe ich den Eindruck, dass du all die richtigen Aspekte so miteinander vermengst, dass du kaum noch Zukunftsperspektiven siehst. Das wäre doch schade und verschwendete Zeit.
Eben habe ich gelesen, dass Indien zum Halbjahr die Bevölkerungszahl der Chinesen übertreffen wird. So viele Menschen. Komisch, dass über dieses Problem – das der Überbevölkerung nämlich – von den Klimaanklägern nie etwas gesagt wird. Die Zahl der Menschen, die auf dieser Erde leben, ist maßgeblich für alles, was wir in den nächsten Jahrzehnten als Menschheit erleiden werden.
Die Chinesen haben ihre Interessen. Ich glaube nicht, dass diese ähnlich gelagert sind, wie Putins imperialistische, rückwärtsgewandte Sichtweise es aufzeigt. Die überhebliche, ständig moralisierende Art der Grünen (Annalena in China) legt nahe, dass dieses Klientel den geringsten Respekt vor der Leistung der Chinesen vorhält. Für mich sind es jedenfalls nicht die Kopierchinesen.
Das Social Score System ist doch ein feuchter Traum auch aller Rechten. Inwiefern das nur der KI anzulasten ist, werden irgendwann Historiker von anderen Planeten herausfinden. ;)
In Deutschland weiß man, dass man dazu kein Social Score mit angeschlossener KI braucht. Man definiert einfach lebensunwertes Leben und richtet Meldestellen ein. Das klappt auch heute noch, wie Corona gezeigt hat. Der Rest ist ein Selbstläufer.
Wenn Du mich persönlich meinst, so liegst Du richtig. Ich sehe keine Perspektive.
Mit diesem Planeten habe ich schon mit 14 abgeschlossen.
Tatsächlich wäre es günstiger für das Universum, wenn die Menschheit ihre Waffentechnik komplett nutzt und den Planeten tatsächlich 64 mal zerstört. So könnte man verhindern, außerirdisches Leben auf falsche Gedanken zu bringen.
Die KI wird solche Systeme erleichtern. So denke ich. Ja, ich setze auch auf die Historiker anderer Planeten. Wer will schon was von Münkler hören 🙂
Das Anzeigen anderer bei beliebigen „Verstößen“ reißt ein. Auch ein Produkt dieses eingerissenen Moralismus, den vor allem eine Partei sich auf die Fahnen geschrieben hat. 14 wäre mich für die Aufgabe doch etwas zu früh gewesen. Ich habe bis in mein sechstes Lebensjahrzehnt damit gewartet. Den Planeten scheinen wir auch ohne Krieg kaputt zu bekommen. Die Indizien dafür sind zahlreich.
„Mich interessiert neben all dem, was diskutiert wird, vor allem die Frage der Urheberrechte an AI-erzeugten Bildern / »Fotos«. Kann man selbsterzeugte KI-Bilder bloggen, sofern man diese nicht auf kommerzielle Weise einsetzt?“ — Da kann ich weiterhelfen.
Sofern man Midjourney in der Abo-Version nutzt, kann man die damit erzeugten Bilder nicht im privaten Blog, sondern auch kommerziell verwenden. Das Urheberrecht auf die Bilder hat (derzeit zumindest in den USA) jedoch nicht.
Danke, Thomas, für die Info. Es ist toll, dass man mit Abo die Bilder bloggen kann. Das eröffnet neue und hoffentlich straffreie Verwendung 🙂 Ich habe mich allerdings bisher noch nicht für ein Abo bei Midjourney entschieden. Aber das kommt bestimmt noch.
Danke für deinen Beitrag, Horst. Ich habe mir die Sendung in der mediathek angeschaut und war sehr angenehm und positiv angetan. Ich bin ein Fan von Miriam Meckel und ich mag ihre gut verständlichen Argumenationsketten. Sie hatte bis zu ihrem burn-out in 2008 einen tollen Blog, in welchem sie sich schon damals sehr intensiv mit Medienkompetenz beschäftigte. Vor allem mit der fehlenden bei den einfachen Nutzern. Da nehme ich mich nicht aus.
Im übrigen hat das Land NRW eine Seite, auf der sich jeder einmal selbst ein Bild zu seiner aktuellen Medienkompetenz machen kann. Bei mir heißt es im Ergebnis: Schon ganz gut, aber da ist noch Luft nach oben. Wer mag, hier der Link.
https://www.digitalcheck.nrw/
Im übrigen kann ich mir nicht vorstellen, dass diesen Zug der KI noch irgendetwas aufhalten könnte. In einer Selbstverpflichtung? Weltweit? Wie beim Klimaschutz? Und nach 4 Monaten wissen dann alle Genaues? Ich finde das irgendwie naiv.
Das Ei ist nun mal gelegt und ich denke, wir werden bei allem klagen nicht darum herumkommen, uns mit den neuen Gegebenheiten zu arrangieren. Und wie ich lese, hat das Ganze ja, was Bilder betrifft, auch schon dein Interesse an neuen kreativen Möglichkeiten geweckt.
NRW? War das nicht das Land, wo das Abi aufgrund des Downloads nicht geklappt hat?
Da Check ich doch mal digital.
Schön, dass dir der Beitrag gefallen hat und wir auch in der Beurteilung der ZDF-Sendung einer Meinung sind.
Hoffentlich kommen wir tatsächlich voran, was die Medienkompetenz anlangt. Was ich von anderer Seite nämlich höre (keine rechten Quellen!), ist das immer noch sehr wenig. Dass dafür gerade in Schule so wenig passiert (stammt auch nicht von mir oder ein rechten Quelle) ist schade aber leider typisch für das Land. Der Umgang mit KI wird schrankenlos sein. Aber hier in Deutschland werden die Übereifrigen natürlich Wege finden, uns von der allgemeinen und weltweiten Entwicklung abzuschneiden. Mit moralischen Argumenten, versteht sich.
Ich bin so halbskeptisch und halbeurophorisch. Mir gefällt es, wenn ich mir die Möglichkeiten vorstelle, die in dem allen liegen. Manche meinen ja, dass die Entwicklung den Hype nicht begründen könnten. Es würde nach deren Ansicht noch viel Wasser den Rhein herunterfließen, bis KI vielleicht eine Bedrohung darstellen könnte. Rechenfehler werden nachgewiesen und so weiter. Nun, das ist klar. Die Technologie (kann man KI so nennen?) wird wohl – wie andere davor – etwas brauchen. Aber die Entwicklung so zu verharmlosen, ist aus meiner Sicht auch nicht angemessen. Wir sollten schon wissen, was wir tun. Solche Diskussionen, wie sie überall geführt werden, sind dazu eine gute Sache. Finde ich.
Nun ja, alles kann nicht glattlaufen. NRW wird halt auch von einer Partei regiert, die nicht alles richtig macht.
in NrW folgte erst die EntKräftung und nun die ultimative VerWüstung. Da es das bevölkerungsreichste Bundesgebiet ist, kann man schauen, wie Entwicklungsprozesse laufen werden.
Das bevölkerungsreichste Bundesland als Beispiel für die größten Probleme an allen Fronten, die uns in diesen Zeiten drücken? Ich glaube, das ist zu viel Parteipolitik. Aber vielleicht hast du recht.