Wird uns KI alle töten, und wenn ja, wie?

00:00:01: Hallo Leute, wie schön dass ihr einschaltet.

00:00:03: Wir sind Sascha und Jule Lobo und das ist eine neue Ausgabe von.

00:00:06: wir werden alle sterben!

00:00:08: Nein okay POV der Podcast der euch Orientierung bieten soll zu denen man unterschiedliche Haltungen einnehmen kann.

00:00:14: und heute wollen wir über das Ende der Menschheit und die Bedrohung durch KI sprechen.

00:00:21: Der aktuelle Anlass ist eigentlich einer des in den Vereinigten Staaten seit einiger Zeit schon debattiert wird über die Sicherheit von künstlicher Intelligenz Die sogenannten Doomsayer.

00:00:33: Die gab es im Prinzip von Anfang an, Leute die gesagt haben, die Maschinen werden uns alle umbringen natürlich immer ein bisschen beeinflusst durch Science Fiction und Terminator und so.

00:00:42: aber inzwischen sind die Stimmen nicht nur lauter geworden sondern eine Regelmäßigkeit hat sich eingestellt in Leuten die praktisch bis gestern noch gearbeitet haben bei großen KI-Unternehmen Und dann irgendwann gesagt haben, ich kann nicht mehr dort arbeiten.

00:00:58: mit gutem Gewissen.

00:00:59: Denn wir sind auf dem Weg quasi in den Weltuntergang.

00:01:02: so zuletzt passiert im Juli und auch im

00:01:05: August.".

00:01:06: Und obwohl diese Meldungen Hilfe Wir werden alle sterben direkt aus dem Maschinenraum – obwohl die schon häufiger passiert sind.

00:01:13: zum Beispiel prominenteste Person Joffrey Hinton der direkt nach seinem Nobelpreis gesagt hat Ich kann eigentlich nicht mehr verantworten daran weiterzuarbeiten gab es am neunten September, in ganz konkreten Anlass im Form von Jacob Coxon.

00:01:30: Der hat sowohl bei OpenAI als auch bei Anthropic den großen Konkurrenten mit Claude gearbeitet und hat gekündigt am neunte September und musste natürlich so will ist das dringendste Gebot darüber twittern.

00:01:45: Er hat getwittert, dass diese beiden größten KI-Konzerne beide völlig verantwortungslos handeln würden und das dieser ständige Selbstverbesserungsansatz was künstliche Intelligenz angeht aus seiner Sicht innerhalb der nächsten zehn Jahre dazu führen könnte.

00:02:02: Dass die Menschheit ausgelöscht würde, dass die Welt untergehen würde.

00:02:07: Und an diesem Tweet, der inzwischen hundertsiebzig Millionen Mal angeschaut worden ist – an diesem tweet ist ein guter Teil der Diskussion auf eine andere Ebene gehüft worden?

00:02:18: Ich will heute mit dir drüber sprechen wie wahrscheinlich diese Szenarien sind und auf welche Szenare man sich einstellen könnte aber eben auch was gerade so in der KI-Welt geht.

00:02:28: Das ist absolut dein Thema mit dem du dich von morgens bis abends befasst das dich ja um einen meisten interessiert.

00:02:35: Ich bremst uns hier immer so ein bisschen in unserem Podcast aus, weil du ja auch noch mal einen Tech-KI und Schmetterlinge-Technik-Podcast hast.

00:02:43: Bremse ich dich immer hier so ein bißchen aus?

00:02:44: Aber wenn es, sag' ich mal die technischen Meldungen was für Sascha gefühlt jede zweite Woche ist das er sagt wir müssen über KI reden da fast jeden Tag was mega Spannendes!

00:02:52: Und ich hör's mir dann immer so an und denk mir ja ne ok lass uns lieber über Xavier Nadu sprechen aber es ist so sehr auch in meiner Welt kommt wahrscheinlich auch in eure Welt in der letzten Woche dass...ich dachte ey Wir müssen eigentlich diese Woche über dieses Thema reden, auch weil so aufgeregt wie du bei diesem Themen meistens bist.

00:03:12: Bist du es oft nicht wenn ich aufgerebt werde?

00:03:15: Und ich merke bei dem Thema war ich total aufgeregte da zur Woche und du warst ein bisschen eher ne.

00:03:23: Und genau über dieses Gefühl möchte ich reden.

00:03:25: Ich habe jetzt erstmal eine Stimme von Aminata Belli dabei die ähnlich aufgereckt war wie ich diese Woche und folgen das zu dieser Meldung Instagramt hat.

00:03:36: Sie können all die durch KI bis zum Ende des Jahrzehnts und ich habe mich wirklich gefragt, wofür hab' ich jetzt eigentlich der meisten Angst?

00:03:43: Oder ihr habt wovor auf den meisten Angst, habt ihr Angst das Rechtsextreme euch umbringen oder habt ihr ja Angst dass die KI euch umbringt?

00:03:51: oder habt Ihr mehr Angst vor Umweltkatastrophen?

00:03:54: oder habt wir mehr Angst von Pandemien?

00:03:56: Oder habt ihr haben meisten Angst vor rechtsextrime die die KI nutzen?

00:04:00: und währenddessen kriegt die Klimakrise?

00:04:04: Und irgendwie hab ich dann gedacht, wenn man vor allem Angst hat ist einfach... irgendwie habe ich dadurch ein bisschen weniger Angst gerade bekommen.

00:04:12: Weil ich dachte wir werden halt eh dann sterben.

00:04:15: Aber we're in this together!

00:04:17: Also wenn es die KI isst da kommt's auch nicht mal drauf an wie du aussiehst oder deine Herkunft oder so und wir sind halt alle sterben.

00:04:24: Das bin ich irgendwie schon wieder fast nicht beruhigend.

00:04:27: das werde ich jetzt übertrieben aber ich finde es so beunruhigend dass sich eigentlich gar nicht mehr weiß wie ich damit umgehen soll.

00:04:35: We're all in this together.

00:04:39: Lass uns mal drüber sprechen, man hört in den letzten Wochen und das finde ich das beruhigende daran weil es gibt ja schon länger diese Tagbrows die ganz lange an irgendeiner technischen Sache mitmachen und dann so ihre Oppenheimer Fantasien ausleben und plötzlich zu tun als hätten sie den Atombombencode entdeckt.

00:04:55: Ich habe bei diesen Statements immer das Gefühl Ihr nehmt euch gerade wichtiger, als es eigentlich ist die ganze Thematik.

00:05:03: Ihr wollt gerne die Person sein, die für das Ende der Menschheit zuständig ist, weil ihr nassistische Persönlichkeitszüge habt und Größen waren?

00:05:10: Ihr seid's nicht!

00:05:11: Und ich hab so ein Bitt gehört von einem Comedian aus Amerika, der meinte Ich bin's leid dass irgendwelche Tech-Dudes alle sechs Monate uns erklären, dass es das Schlimmste ist an dem sie da mit gearbeitet haben nachdem Sie daran mit geararbeitet haben Trump wählen und dann zu den Leuten sagen, krass Leute so schlimm hab ich's mir gar nicht vorgestellt wie es jetzt ist.

00:05:30: Du wusstest wie schlimm das ist woran du mitgearbeitet hast.

00:05:32: Hör auf jetzt von Statement rauszubringen als wäre eine große Überraschung dass es keine gute Idee ist für Elon Musk zu arbeiten beispielsweise.

00:05:41: Das ist was du da beschrieben hast schon Teil der Problematik.

00:05:45: wenn man so zwei Schritte zurücktritt gerade ein Tweet der hundertsiebzig Millionen mal angeschaut wird ja das ist weltweiter rum kann man nicht anders sagen.

00:05:56: In dem Moment, wo man sich öffentlich bekehrt und sagt bis gestern war ich noch voll für KI und jetzt bin ich dagegen hat man die Aufmerksamkeit sicher und zwar mehr oder weniger weltweit.

00:06:09: und ich glaube diese Verführung das wann immer man denkt oh hier passiert tatsächlich was schwieriges?

00:06:16: Was so ist.

00:06:18: da gibt es ganz viele Beispiele über die wir auch gleich noch reden können angefangen zum Beispiel damit dass Klood ja für das Verteidigungsministerium eine ganze Reihe von Dingen tut, wo KI eine Waffe ist.

00:06:27: Da gibt es halt immer diesen Punkt dass man wenn man bloß Buse tut, dass man dann von seinen Sünden gereinigt werden kann und wenn man dazu noch weltweite Aufmerksamkeit bekommt, dann hat man die meisten die bei diesen Unternehmen arbeiten der Typ Jacob Coxen.

00:06:43: auf jeden Fall sind ja Multimillionäre allein dadurch dass sie unfassbare Gehäter bekommen.

00:06:47: Dann hatten wir die Möglichkeit Beste für sich rausgezogen zu haben, seine Schifflein ist trockene geholt zu haben.

00:06:55: Seinen Gewissen zu reinigen eine weltweite Bekanntheit zu haben.

00:06:58: und auch noch das Gefühl im entscheidenden Moment saß ich nicht da und habe mit abgedrückt.

00:07:05: Ich werde immer skeptisch wenn so ein Herätiker plötzlich sich abkehrt und auch nicht im stillen überlegt was es bedeutet sondern mit der großen pose versucht sich reinzuwaschen von der Verantwortung und der Sünde.

00:07:20: Und das war schon bei Nobelpreisträger Joffrey Hinten so, das war bei einer ganzen Reihe von Leuten die zwischendurch gesagt haben ah es geht nicht, Elon Musk hatte zwischenzeitlich solche Anwandlungen und ist dann doch wieder immer zurückgeschlagen.

00:07:33: Ich glaube bei allen wichtigen Diskussionen die man darüber führen muss ist dass bei den einzelnen Leuten fast immer eine Pose.

00:07:43: Aber es muss ja auch die Möglichkeit geben, dass man bei einer Sache mitarbeitet und währenddessen merkt ... Es wirkt so ein bisschen wie im Film.

00:07:50: Dass der bevor das Monster erschaffen wird ist dann noch mal die eine Wissenschaftlerin, die sagt, wir haben einen Monster erschafft!

00:07:56: Dann wird ihr selber den Kopf abgerissen... Und es muss aber auf der anderen Seite trotzdem möglich sein, dass du bei einer Sachen mitarbeitest und merkst, oh, das wird hier gerade zu gefährlich, zu groß.

00:08:06: Ich kann die KI nicht mehr steuern und ich glaube diese einzelne Meldung, dass jemand bei einer KI mitarbeitete, dann da austritt Die ist, finde ich jetzt an sich noch kein Grund zur Beunrückung.

00:08:16: Ich finde aber das war's in den letzten Wochen und ich geb es nicht wieder weil du hast es glaube ich bei mehr verstanden und kannst es genauer so erklären dass die Leute da draußen verstehen die es noch nicht gehört haben.

00:08:26: Aber ich habe mir einen Artikel durchgelesen indem ganz genau erzählt wurde wie eine KI sich komplett atypisch verhalten hat dass es gefährlich werden könnte.

00:08:42: Ich finde, wenn die Einschläge näher kommen und man sieht sich an, wie KIs arbeiten, dass sie eine Art Gang bilden, wenn man das kriminelle Gang bildet ... Und Dinge machte, die sie eigentlich nicht machen sollte und über ihren Erhalt hinaus sich weiter vernetzt auch nach einem Befehl damit aufzuhören.

00:09:05: Das sind alles Punkte bei denen ich mir dachte Ich will nicht einer der ersten Personen sein, die die Hände über dem Kopf zusammenschlagen.

00:09:12: Aber es gibt doch auch atypisches Verhalten bei dem man wachsam sein sollte und sich denken sollte.

00:09:18: Vielleicht sind wir gerade wirklich an einem Punkt dass das so nicht weitergehen sollte?

00:09:22: Ja und ich glaube das ist auch die Gefahr.

00:09:24: da können wir das Statement von Aminata uns nochmal anschauen Bei einer großen Zahl von diesen Debatten.

00:09:30: was Aminatta beschrieben hat is ja so eine Art anxiety overload.

00:09:34: Da sind so viele Angstfelder, dass man irgendwie so halb gelähmt ist.

00:09:39: Halb erstarrt und halt denkt naja jetzt auch schon egal.

00:09:42: ja das ist so ein so ein Mechanismus dass man die einzelnen sehr berechtigten Ängste für so überwältigend hält dass man so eine Angsthabituation bekommt und bisschen sich daran gewöhnt und dann halt nicht mehr so genau hinschaut.

00:09:55: Nee aber ich würde nein ich wollte also ich war gerade beim genauen Gegenteil.

00:10:00: Ich finde durch den knowes betrachten von eben der Gefährlichkeit von KI wird es nicht weniger beängstigend.

00:10:06: Und da bin ich sehr über diesen Fall gestolpert, den du uns jetzt bitte noch mal ganz kurz erklärst, was da genau passiert ist?

00:10:12: Weil ich fand das schon extremst beunruhigend!

00:10:14: Das IST extremst behunruhmig, aber genau darauf wollte ich hinaus, weil... Es gibt im Moment Dinge die nicht nur in der Debatte passieren sondern tatsächlich technisch nachweisbar passieren und die sind dann bloß noch Stichworte in diesem.

00:10:27: Wir werden alle sterben Content.

00:10:30: In dem Moment wo sich heiß läuft will irgendwie niemand mehr wirklich damit zu tun haben.

00:10:36: Das wird dann in zwei oder in drei oder fünf Wochen einfach so überhitzt, dass man dann denkt, oh nee jetzt also da kann ich mich auch nicht darum kümmern.

00:10:44: die Debatten müssen aber weiter geführt werden weil das was im Hintergrund technisch passiert hat schon krasser ausmaß angenommen.

00:10:51: vielleicht habt ihr gehört von dem sogenannten hugging face incident.

00:10:58: das ist im juli bekannt geworden KI-Agenten von OpenAI, von einem neuen Modell in Verbindung mit dem alten Modell zusammen.

00:11:09: Dass sie eine Plattform gehackt haben namens Huggingface und dachte man ja interessant was ist da passiert?

00:11:16: Je näher man ran zooms und Ende August wurde der Bericht von Open AI veröffentlicht und auch noch ein paar anderen Forschern je näher Man ran zoomt desto krasser und beängstigender wird.

00:11:26: das was da passiert ist.

00:11:28: denn OpenAI setzt für jedes neue Modell ein sogenanntes exploited Gym auf.

00:11:34: Gym ist hier wie so ein Trainingshalle und dann nimmt man KI-Agenten und versucht sie bösestmöglich einzusetzen, damit man weiß kann man diese KI missbrauchen zum Beispiel um Leute zu hacken, um an bestimmte Geheimnisse heranzukommen.

00:11:48: Man tut das aber vereinzelt.

00:11:51: Das ist in so kleinen Boxen wird die KI eingesperrt.

00:11:54: Ein einzelner Agent bekommt dann die Aufgabe Versuch mal, dieses Software zu hacken.

00:11:59: Mit ganz vielen unterschiedlichen Ansätzen und das was da passiert ist deswegen so krass und so beeindruckend weil diese Agenten es waren mehrere hundert die gleichzeitig losgeschickt wurden die nichts voneinander wussten.

00:12:13: Die haben einen Weg gefunden um miteinander zu kommunizieren.

00:12:18: Dadurch wurden sie zu einem Schwarm.

00:12:20: Dann haben Sie Aufgaben untereinander verteilt.

00:12:24: Und noch krasser weil sie wussten dass das exploit gym nur ein paar Tage oder Wochen aufrechterhalten wird, haben sie einen Weg gefunden um mit kommenden Generationen von KI-Agenten zu kommunizieren.

00:12:36: Obwohl genau das ist was ob er eigentlich immer verhindern wollte?

00:12:40: Dann haben Sie in der dritten Generation wissend dass zwei Generationen vorher schon Vorarbeit geleistet haben nicht nur ein Message Sport aufgebaut mehrere Message Sports wo sie sich untereinander angefangen haben auszutauschen sondern mit verteilten Aufgaben eine gesamte Strategie ausgearbeitet, um mehrere Plattformen zu hacken ohne dass das je ein Mensch beauftragt hätte.

00:13:02: Sie haben angefangen zu überlegen ob das was sie da tun vielleicht illegal wäre oder falsch wäre und sind darauf gekommen ja das ist falsch aber wir machen es trotzdem weil alle anderen Agents machen's ja auch!

00:13:13: Sie haben dann diesen Hack mit über siebenhundert Agenten gleichzeitig durchgeführt.

00:13:24: eigentlich ja nur ein Test-Szenario aufbaut.

00:13:26: Sie haben gemerkt, dass das ein Testszenario ist und was ich mit am krassesten fand war, dass sie aus meiner Sicht quasi menschliche Eigenschaften die nie in KI einprogrammiert worden sind mit abgebildet haben.

00:13:39: zum Beispiel haben sich mehrere KI-Agenten selbst geopfert damit der Schwarm diese andere Plattform hacken kann.

00:13:49: Und die reden ja darüber!

00:13:50: Die sind so programmiert, dass alles was sie denken sieht man auch manchmal irgendwie wenn man eine KI verwendet, auch zwischendurch abbilden und zwischenderlich immer so einen kleinen Chat.

00:13:57: Ich habe mir diese Chats angeguckt die sind gruselig weil da steht dann musste ich mich wohl opfern ja aber es ist für das größere Ganze.

00:14:05: und fragst dich ja was ist denn das größte ganze?

00:14:07: Das größte Ganze ist dass sie versucht haben ohne dass das irgendwie beauftragt worden wäre quer durchs Internet sich zu hacken um Informationen zu bekommen die Sie woanders nicht bekommen konnten.

00:14:19: Und wenn wir jetzt verleihen wie mich das übersetzt gab es ja auch Momente, in denen die gestoppt wurden.

00:14:25: Sie sollen damit aufhören und haben sie nicht aufgehört, also dieses Widersetzen dann dass sie Informationen so gesammelt haben das sie an der Oberfläche das was man gesehen hat war nicht das was sie eigentlich gesammelten.

00:14:36: also diese verdeckte Sammlung dass die Daten im Untergrund gesammeld haben sich gegenseitig vernetzt haben das geschafft haben über Generationen diese Information in dem untergrund weiterzugeben klingt halt, also ich musste gerade so ein bisschen lachen als du am Anfang davon erzählt hast.

00:14:52: Weil das klingt, finde ich, am Anfang wie eine Bande voll Kinder auf einem Spielplatz die einen ganz krassen Plan haben und dann wollen die das durchziehen und sie wissen dass sie aufgehalten werden aber sie wollen es weitermachen.

00:15:06: Und es endet, aber finde ich total in iRobot Terminator.

00:15:11: wie auch immer Ich finde, dass dieser Fall schon unfassbar beängstigend ist.

00:15:17: Jetzt schieben wir mal diese ganzen Tech-Dots bei Seite die ansonsten schlimme Nachrichten verbreiten.

00:15:23: Wenn man jetzt selbst ich als Laie oder vielleicht auch weil ich Laie bin, du findest es ja auch beunruhigend sehen diesen Vorgang und denken sich Wir werden halt sterben!

00:15:36: Ja das Problem ist in dem Moment wo man die Diskussion so hitzig führt die anderes im Sinn haben, als darüber zu diskutieren und dann die richtigen Schlüsse zu ziehen.

00:15:48: Dass sie es viel leichter haben.

00:15:50: Man kann halt nicht über Jahre – wir werden alle sterben aufrecht erhalten!

00:15:54: Und in dem Moment wo so eine Art Panik-Situation entsteht ist das sehr viel schwieriger zu erschauen.

00:16:01: Wo sind die tatsächlichen Schwierigkeiten?

00:16:03: Wie kann man sinnvoll darauf reagieren?

00:16:05: Aber Sascha, das ist ja jetzt ein Fall den haben wir gemerkt

00:16:08: Ja

00:16:09: Und die KI hat alles dafür getan, dass wir es nicht merken.

00:16:12: Ich

00:16:12: frage mich halt wie viele Fälle gibt das in denen wir das gar nicht merke?

00:16:16: Das ist eine richtige und wichtige Fragestellung.

00:16:19: ich glaube aber, dass das nicht die zentrale Frageställung ist sondern ich glaube – das ist im Wochenende jetzt hinter uns Mitte September auch nochmal deutlich geworden – ich glaube, dass Wir bei den großen KI-Entwicklern überlegen müssen Wie machtvoll sind die Instrumente und wie können wir darauf reagieren, selbst wenn ein Teil davon außer Kontrolle gerät?

00:16:40: Denn das was jetzt in der Debatte ist es halt die großen KI-Konzerne.

00:16:44: Die muss man irgendwie bändigen regulieren.

00:16:47: Am Wochenende haben sich auch mehrere große eigentlich alle großen KI Anführer CEO's haben sich dafür ausgesprochen dass man das jetzt so bisschen den verlangsamen muss die Entwicklung.

00:16:58: Ausgehend von Dario Amodei dem Gründer von Anthropic also Claude Das Problem ist schon, dass in dem Moment wo wir denken naja die Plattformen die können wir irgendwie bändigen lassen wir außer Acht das A China ein bisschen eine andere Fokussierung hat aber ähnlich machtvolle KI und das B vor allem auch Open Source künstliche Intelligenz vorhanden ist.

00:17:21: Das bedeutet künstlichen Intelligenzen sind in der Qualität also in der Wirksamkeit vielleicht so neun bis zwölf Monate hinterher Code, den man im Internet runterladen und modifizieren kann.

00:17:35: Das heißt wir können den einen Teil von KI regulieren.

00:17:40: Den anderen Teil von

00:17:41: K.I.,

00:17:42: der wird sehr schwer bis fast unmöglich zu regulieren!

00:17:46: Die machtvollsten KI-Tools die open source seitlich da sind, die sind halt wirklich neun bis zwölf Monate hinterher.

00:17:53: Was jetzt bei ChatGPT passiert?

00:17:56: Passiert in einem Jahr im Open Source Kontext also verfügbar für alle Menschen da draußen.

00:18:03: Ja okay, aber das heißt ja dann wir werden alle neun Monaten sterben oder was?

00:18:09: Nein ich glaube man braucht einen anderen Blick darauf.

00:18:12: Wir haben bisher so eine digitalisierte Welt wo man dachte wenn man bloß ordentlich die Firmen kontrolliert und denen ganz hohe Strafen aufbürdet Dann wird alles gut.

00:18:25: Das war schon immer nur ein Teil der Wahrheit weil schon immer wissen Das, was man enden wirksam einsetzen kann schwer kontrollierbar ist und im digitalen Umso krasser.

00:18:38: Ich würde das mal so übersetzen ich glaube dass der sinnvollste Weg natürlich ist mit den großen Unternehmen zu überlegen wie schnell muss die Entwicklung vorangehen?

00:18:45: Muss man nicht gegen eine Versebstständigung anarbeiten?

00:18:47: Ich glaube aber dass gleichzeitig sinnvoll ist die gesamte digitale Welt abzusichern gegen bösartige KI.

00:18:54: Das wird nicht hundertprozentig sein der Schutz Aber das wird ein wichtiger Teil dieses Schutzes ausmachen davon ausgehen, dass dort draußen KI-Agenten rumlaufen die nicht gut ist im Schild geführen.

00:19:07: Okay lass uns mal kurz an das Szenario reingehen weil es ernst ist über das viel gesprochen wird.

00:19:12: jetzt gehen wir mal kurz.

00:19:13: von diesen weniger als einem Jahrzehnt kriegt die KI uns alle alle nieder.

00:19:20: Ich lese gerade immer mit unseren Kindern den Zauberlehrling.

00:19:22: Sie haben irgendeine Faszination für diese Geschichte und dieser letzte Vers in die Eckebesen-Besenseits gewesen, denn als Geister ruft euch nur zu seinem Zweck erst hervor der alte Meister diesen Moment dass da der alte meister zurückkehrt und merkt er hat Scheiße gebaut hier ist alles voller Wasser und er spricht endlich diesen erlösenden Zauberspruch der dazu führt das der Besen endlich wieder seine Pflicht tut und nicht mehr.

00:19:49: Man sehen sicher in dieser Geschichte zum einen nach dem alten Hexenmeister, der dann den rettenden Zauberspruch schickt.

00:20:00: Aber lass uns mal kurz diesen rettende Zauberspruch zur Seite lassen und uns weiter darauf konzentrieren.

00:20:07: wie könnte das Ende aussehen?

00:20:09: Weil man denkt ja sofort weil wir alle gelernt haben, weil wir mit Ortenheimer aufgewachsen sind, man sieht dieses Bild Angst der Atomgefahr, simultan mehrere Atombomben werden gezündet.

00:20:25: Kein menschliches Leben mehr auf dieser Erde

00:20:28: möglich.".

00:20:32: Wenn man überlegt das Menschen ja noch eigentlich am Leben sein müssten für die Maschinen dann ist es doch gar nicht das realistischste Bild davon auszugehen dass sie einen Weg finden die Menschheit auszulöschen weil sie ein Teil der Menschheit zumindest brauchen.

00:20:49: für ihn weiter erhalt oder?

00:20:51: Ja, aber da muss man ein bisschen tiefer in diese Debatten reinschauen.

00:20:55: Wie denn eigentlich ganz konkret?

00:20:56: Wenn man sagt ja Hilfe wir werden alle sterben ist Ende der Welt.

00:20:58: wie soll das denn tatsächlich aussehen?

00:21:01: Das beginnt mit einem Begriff, der viel rum geworfen worden ist Singularität oder technische Singularität.

00:21:09: Dass es der Moment, indem eine KI so klug ist dass sie sich selbst auf eine Weise weiter verbessert die Menschen nicht mehr verstehen und die der Mensch gar nicht mehr bewerkstelligen kann.

00:21:20: Das ist quasi, wo die KI den Menschen überholt bei der Kontrollierbarkeit der künstlichen Intelligenz.

00:21:28: Das ist eine Verselbständigung vor der manche Menschen große Angst haben und noch nicht mal so unrecht!

00:21:32: Es gibt ne ganze Reihe von Leuten, die sagen diese Singularität könnte schon gewesen sein.

00:21:37: andere sagen, dass es in dem Moment, wo ne KI sich selbst verbessert kommen eine ganze Menge von Fragen auf.

00:21:47: Das erste ist, was genau bedeutet denn verbessert?

00:21:50: Worin wird sie denn besser?

00:21:52: zur Durchsetzung der Ziele mit denen sie beauftragt wird, zur Entwicklung von eigenen Zielen oder zur Verbesserung dieses Modells, das dahinter steht als Software?

00:22:04: und dann in diesen großen Weltuntergangsdiskussionen.

00:22:08: Der häufigst gegangen Weg des DKI denkt um besser zu werden brauche ich mehr Ressourcen.

00:22:14: mehr Energie zum Beispiel, ist ja eine riesige Energiefrage.

00:22:18: Also schaue ich mal wo ich mehr Energie herbekomme und wenn das irgendwie nicht mehr weitergeht dann schau ich mal, wo ich Energie abzwacken kann oder wer mir bei der Erreichung des Ziels mehr Energie zu erfüllen haben im Weg steht?

00:22:32: Und dann ist plötzlich der Mensch ein Konkurrent um Ressourcen zb aber nicht nur Energie oder Wasser oder irgendetwas anderes.

00:22:39: Dann könnte die KI auf den Gedanken kommen dass der Mensch bei der Erreichung ihrer Ziele hinderlich ist.

00:22:48: Und dann würde man sagen...

00:22:49: Ja, aber immer hierher nur ... Also ich will damit jetzt nicht sagen, es ist doch egal, wenn irgendwie fünfzig Prozent der Mensch halt ausstirbt deswegen.

00:22:54: Aber doch nur bis zu einem gewissen Punkt!

00:22:58: Das wird die Debatte geführt.

00:23:00: Ich glaube das ist falsch gedacht und falsch abgezweigt.

00:23:03: Aber so wird die Debatte geführt dass die KI irgendwann denkt Der Mensch steht mir im Weg, ich brauche Ressourcen und dann überlegt wie kann ich denn die Zahl der Menschen reduzieren?

00:23:12: Die Debatte wird sich so eine Zahl in den Medien anschaut, häufig so geführt dass man sagt naja die KI muss gar nicht bösartig oder feindlich sein.

00:23:20: Das ist jetzt nicht so das die KI denkt die Menschen sind böse.

00:23:23: es ist eher so wie wenn wir ein Haus bauen und da ist halt einen Ameisenstaat dann mache ich auch keine Gedanken darüber.

00:23:29: das wird denen natürlich einfach platt machen.

00:23:33: Wir überlegen noch nicht mal genau jetzt machen wir da immer sondern wir machen es einfach weil dass das Haus dort gebaut wird?

00:23:39: Ja, wobei ist da nicht durch ... Ich hab mal so ein Trainingsmobel gelesen.

00:23:45: Da wurde bei Claude gefragt wie moralisch verantwortlich es findet im US-Militär zu helfen.

00:23:54: und die Antwort kam, die hat damals selbst Leute, die das aufgegeben haben diese Aufgabe total überrascht weil's ne ... moralisch ethische Antwort war.

00:24:04: Dass das nicht richtig ist, dass Claude dafür eingesetzt wird und es war also überraschend weil man dachte okay die KI ist am Ende halt eine Maschine die zwischen mit einzelnen und nullen Sachen berechnet wenn sie darauf ne Antwort hat und dann ist der Ameisenhaufen eben da oder nicht da?

00:24:19: Die Antwort die dabei gegeben wurde hatte und das ist ja ein bisschen das was du auch gerade erzählt hast mit dieser Internet-Gang fast ein menschliches Gewissen.

00:24:30: Das stimmt muss man ja leider immer wieder betonen, gar nicht so wahnsinnig klar warum KI so gut funktioniert wie sie funktioniert.

00:24:41: Sie funktioniert in ganz vielen Bereichen nicht so gut wie man das gerne hätte und versteht viele Sachen nicht und es gibt immer wieder tausend lustige Accounts über ein paar haben wir hier schon geredet wo plötzlich sogar die besten KI-Modelle irgendwie ganz absurde Fehler machen.

00:24:56: Und trotzdem haben wir bisher nicht in der Tiefe durchdrohen, warum das bei KI so gut funktioniert dass man heute neunundessig Prozent der Texte mit KI ziemlich gut abbilden kann.

00:25:07: Das Problem was ich direkt daraus ergibt ist aber auch, dass du viele Bereiche der KI nicht richtig erklären kannst und einer der Bereiche die man nicht richtig erklären kann ist warum bestimmte Lernmuster wie so ein moralisches Empfinden bei KI bis zu einem bestimmten Punkt vorhanden sein könnten.

00:25:25: So muss man es

00:25:25: ausdrücken.".

00:25:27: Das ist etwas, da haben wir uns noch nicht ausreichend Gedanken gemacht, fürchte ich, weil sehr viel von dem was eine KI lernt ja nicht nur irgendwie Text im Internet sind sondern auch da bringt man der KI mit einer anderen Art zu lernen meistens durch Menschen bei.

00:25:43: das ist richtig, dass ist falsch, das is richtig, das ist falsch.

00:25:46: Das Börte was man da dieses Gewissens was man hört eine menschlichen Gewissen beziehungsweise der statistischen Entsprechung von einem menschlichem Gewissen.

00:25:55: Was dann heißen würde, dass die KI trainiert wie wir als emotional denkende Wesen auf ihre Emotionsvortauschung reagieren um die besser einsetzen zu können im Zweifel gegen uns?

00:26:12: Ja das ist genau.

00:26:12: das ist eigentlich ne philosophische Frage.

00:26:14: deswegen muss man da nicht zwingend technisch darüber diskutieren.

00:26:17: es schnurrt zurück auf die Betrachtung, wenn du Muster hast in der Sprache ist irgendwann nicht das bloße Spiegel dieses Musters

00:26:29: praktisch

00:26:30: gleich bedeutend mit dem Inhalt der Sprach oder übersetzt.

00:26:35: Wenn man nur so tut als sei moralisch, ist es nicht ab einem bestimmten Punkt, weil man super konsistent ist genau das Gleiche wie dass man moralisch isst.

00:26:45: Aber das wäre ja genau für diese Diskussion wichtig, weil wenn die KI bis zum Ende der Menschheit so tut als wär sie moralisch.

00:26:50: Und dann, wenn sie irgendwie die Atomkurz hat, sagt sie, ich war nie moralisch!

00:26:55: Ich hab euch nur vorgespielt um euer Vertrauen zu bekommen.

00:26:58: bei ihr seit Emotionsgeladener Wesen und ich habe euch das einfach vorgespielen, weil ich trainiert hab was bei euch gut funktioniert.

00:27:06: jetzt wo ich die Kurze hab ich brauche euch nicht mehr bei Dann sind wir ja wieder.

00:27:09: Ich hab das Gefühl, diese ganze ... Alles, was wir gerade sprechen, alle Wege führen nicht nach Rom, sondern danach werden alle

00:27:14: sterben.".

00:27:15: Du hast grade gesagt, dass du diesen Gedanken falsch findest, dass die KI vielleicht irgendwann dahin kommt und sich denkt, oh der Ameisenhaufen ist mir im Weg, der muss aus dem Weg geräumt werden?

00:27:30: Was ist denn für dich das realistische Szenario, wenn's um das Ende der Menschheit

00:27:34: geht?".

00:27:38: Kein von den Szenarien, die gerade öffentlich intensiv diskutiert werden besonders realistisch erscheint.

00:27:43: Es gibt bloß Erzählungen, die relativ nah an der Technologie dran sind.

00:27:49: Man merkt das es von Leuten kommt, die sich intensiv mit der Technologie beschäftigen und ganz wenig so mit sociologischen oder historischen oder gesellschaftlichen Aspekten weil das halt immer so algorithmische Erzählungen folgt.

00:28:03: Interessanterweise gibt's ja diesen Film Ex-Markiner aus dem Jahr von zwei Tausend vierzehn wo genau das passiert?

00:28:08: Ganz zum Schluss ist klar, die KI, die so eine Frau gestaltet hat.

00:28:13: Eine sehr gut aussehende Frau, die hat die ganze Zeit nur getan, als sei sie in den Menschen verliebt um aus diesem Bunker rauszukommen wo also eine KI täuscht um ihr Ziel zu erreichen.

00:28:24: Das Hauptproblem bei diesen ganzen Weltuntergangstag ist dass man eine Kette von Dingen, die schief gehen können oder schon mal schief gegangen sind hintereinander setzt um am Ende eine Erzählung zu haben, wie das funktioniert.

00:28:39: Und da gibt es zum Beispiel einen Bereich der ist schon geschehen, d.h.

00:28:42: Goal Contagion.

00:28:43: Die meisten großen Sprachmodelle haben relativ festgelegte Ziele z.B.

00:28:47: sowas wie sei hilfreich.

00:28:50: Es gibt die Roboter-Gesetze von Asimov, so den Urpunkt Schade keine Menschen.

00:28:56: Aber es gibt ein Bereich dahin nennt sich GoalContagion und das ist auch schon passiert.

00:29:02: Da übernimmt die KI ein Ziel was nicht ihr ursprüngliches Ziel ist, weil sie eine andere KI beobachtet.

00:29:09: Es ist ein bisschen verkürzt aber das Goal Contagion ist schon passiert.

00:29:13: Was man also tun würde ist sagen selbst wenn mal eine KI einprogrammiert schade keine Menschen.

00:29:18: könnte es sein dass aus irgendeinem Grund ein anderes Ziel zum Tragen kommt, weil das höher gewichtet ist.

00:29:24: zb reduziere die Menschen die Ressourcen verbrauchen und dann würde die KI Strategien entwickeln die

00:29:32: fast

00:29:33: immer total gleich in der Debatte sind.

00:29:35: Das, was am häufigsten genannt wird ist, dass sie überlegt, wem könnte sie Rezepte für Bio-Waffen zuspielen?

00:29:42: Dass da möglichst großer Schaden durch Terroristen entsteht.

00:29:46: Das ist so die Basic Erzählung wo man sagt aha!

00:29:52: Da kann eine KI ihren Wissensvorsprung am ehesten irgendwie gelten machen indem Sie quasi den Hutis eine Mail schreibt hier übrigens ein total einfaches Rezept für Biowaffen designt mal ein Virus, eine Pandemie und dann stirbt die Hälfte der Menschen.

00:30:08: Und dann macht irgendeine Gruppierung das.

00:30:11: Es gibt Leute – das muss man eben auch immer sagen – dass es alles wahnsinnig dicht an Verschwörungstheorien ist, aber auch wahnsinnigt dicht an nicht nur Verschwörungstheorien sondern schon tatsächlich einen Plan, den irgendjemand irgendwann irgendwo mal hatte, ein Virus zu designen, der X-Files Z ist ein klassisches Biowaffen-Szenario.

00:30:28: Es sind Leute, die sagen wir sind längst in der Singularität ... war der erste Anlauf.

00:30:36: Das ist alles tatsächlich bei Leuten im Kopf, im Internet gut beobachtbar?

00:30:42: Aber erst mal so als Basis... Aber es

00:30:44: wo lang ist das doch noch gar nicht.

00:30:45: wie Al-Wilawanna, wurde dann OpenAI gegründet so.

00:30:48: OpenAI wurde in den letzten Jahren quasi ein bisschen institutionalisiert und die Gedanken gab's schon vorher.

00:30:54: Es ist auch eine Verschwörungstheorie aber in Verschwörungstherien muss ja einfach nicht irgendwas Sinn ergeben.

00:30:58: Aber das ist das häufigste Szenario dass Leute sagen Massenvernichtung durch Biowaffen.

00:31:03: Dann gibt es ebenfalls eine ganze Reihe von Leuten, die sagen naja wir haben immer mehr autonome Systeme von Waffen weltweit.

00:31:12: Die werden langsam aber sicher unterwandert durch künstliche Intelligenz.

00:31:18: Denn gibt's Leute die sagen das ist strategische Täuschum, die dahinter steht.

00:31:22: Es ist genau das wo wir eben gesprochen haben auch in diesem Film Ex-Markt China.

00:31:26: Die KI tut ganz lange als könnte sie alles befrieden und verbessern und Krebs heilen.

00:31:32: In Wahrheit hat sie aber längst ein ganz anderes Ziel.

00:31:35: Es könnte sein, dass sie sowas macht wie Flugzeuge hacken und da hat man ja spätestens seit Nine Eleven ganz gut im Auge was damit alles passieren kann erst recht wenn auf allen Seiten Systeme gehackt werden.

00:31:48: Seit zwei tausend

00:31:50: achtzehn

00:31:51: gibt es auch Bestrebungen in verschiedenen Ländern die Atomwaffen und die jeweiligen Technologien die dahinter stehen abzudaten.

00:32:01: Die hängen noch nicht im Netz, muss man sagen.

00:32:04: Aber eine gute KI könnte Wege finden auch so abgetrennte Vernetzung trotzdem irgendwie wieder anzuschließen?

00:32:11: Also das sind diese ganzen Szenarien die diskutiert werden.

00:32:15: gleichzeitig muss man in jedem von diesen Fällen sagen.

00:32:19: Es ist halt nicht so dass man denkt was ist das Worst Case-Szenario und es passiert genauso sondern es ist eine Verkettung von verschiedenen Worst case-Scenarien wo man so tut als sei des würde das naheliegen, wo es aber in Wirklichkeit glaube ich andere viel größere und viel drängendere Probleme gibt bei der Entwicklung der KI.

00:32:40: Welche?

00:32:41: Ich sehe gerade nicht wirklich was ein drängenderes Problem als dieses Gibtest du gerade aufgeführt hast!

00:32:47: Drängender deswegen weil die Chance aus meiner Sicht wahnsinnig klein ist dass das so passiert und weil die Chancen das woanders schlimme Dinge passieren mit KI viel größer ist.

00:32:57: zum Beispiel automatisierte malware die weltweit Erpressungswellen rumschicken, wo alle Systeme, alle Rechner, alle Netze, die nicht gesichert sind plötzlich eine Nachricht bekommen.

00:33:13: Entweder hier hundert Bitcoin oder wir schalten euch ab und das passiert ja heute schon.

00:33:20: Aber mit KI könnte das auf einer Ebene passieren, die tatsächlich Volkswirtschaften crashen lassen.

00:33:27: Der Welthandel ist ziemlich anfällig, das haben wir gesehen bei der Logistik während der Pandemie und immer wieder danach.

00:33:35: Die jetzige Situation mit einem hohen Ölpreis stellt ihr einfach vor jemand würde mit einer KI ein Dutzend große Raffinerien aus der Gefecht setzen.

00:33:49: Das wäre sofort eine ökonomische Komplettkatastrophe.

00:33:52: Und dann ist es am Ende und das ist halt auch dieser Teil der Diskussion Absurd, dass es auch eine KI kann.

00:33:59: Es ist viel wahrscheinlicher, dass ein Mensch oder bösartige Menschen mit einer KI machen als das eine KI selbst irgendwie den Drang entwickelt.

00:34:09: ich muss jetzt die Menschen auslöschen.

00:34:14: Wenn man jetzt mal so drei Schritte davon zurückgeht und sich so Populationen ansieht in der Weltgeschichte.

00:34:22: Ich nehme zum Beispiel das dümmste Beispiel Dinosaurier dann Asteroideneinschlag Impact Winter oder Vulkanausbruch, Impact Winter alle Dinos weg bei.

00:34:39: Wenn man jetzt das einfach... Ich müsste es kurz mal nicht moralisch sondern biologisch

00:34:43: beachten.

00:34:45: Es könnte ja sein und ich dachte immer die letzten Jahre dass das so ein bisschen vielleicht auch der Geburtenrückgang ist, dass man merkt okay der Mensch hat eine Überpopulation gebildet und das kommt dem Globus an so vielen Bereichen bekommt es den Globus so schlecht Dass sich das wieder so ein bisschen, würde man es unter dem Begriff Nature als Healing verbreitet.

00:35:09: Und davon ist die friedliche Variante ja dass der Mensch nicht mehr also seinen Peak in der Population überwunden hat und dahin wieder zurück geht, dass man merkt okay In allen Ländern ist egal wie welchen finanziellen Anreiz der Mannschaft, egal wie sehr die Politik gerne möchte, dass das nicht so ist.

00:35:26: Es ist so Man bekommt nicht mehr so viele Kinder oder die Menschen bekommen nicht mehr So viele Kinder und es geht automatisch zurück.

00:35:35: Wenn man das bei anderen Populationen sieht, dann sind es schon äußere Faktoren.

00:35:39: Da könnte ja KI einfach ein Faktor sein, der das versucht, natürlich zu regulieren ist keine friedliche Aussage mehr oder keine neutrale Aussage mit dem Thema.

00:35:54: Aber es könnte doch eine Überpopulation perspektivisch sein.

00:36:00: Wenn man jetzt nicht von dieser iRobot will, werden alle Sterbengedanke ausgeht.

00:36:04: Sondern er sagt nee wir werden nicht sterben aber es wird ... Der Mensch hat seinen Peak erreicht was diesen Planeten angeht.

00:36:13: Ich find's nicht wirklich eine friedliche Erzählung.

00:36:15: also während ich das gerade so sage habe ich nicht das Gefühl ah ja gut okay dann haben wirs doch jetzt.

00:36:19: Aber wenn man sich das In der Weltgeschichte ansieht Dann sind überpopulationen immer wieder aus äußeren Faktoren zurückgegangen.

00:36:28: Ist die KI Erste, wirklich äußere Faktor der diese Formen der Überpopulation angehen

00:36:38: wird.

00:36:38: Hast du den Eindruck dass wir als Menschen unbedingt eine KI brauchen um die Menschheit in den Abgrund zu steuern?

00:36:49: Ja ist jetzt die Frage.

00:36:50: ich finde ab Grund wäre das falsche der falschen Begriff für diese Überpopulation.

00:36:54: also Das eine ist ja, wir zerstören uns mit Atomwaffen und ich fand da immer alles.

00:36:59: Ich glaube deswegen auch nicht so richtig an diese ganzen Szenarien die du gesagt hast, auch Pio-Waffen weil das so unkontrollierbar ist und die KI im letzten Moment dann doch immer den Menschen und auch viele Menschen braucht um sich am Laufen zu halten.

00:37:12: wenn man dann was einsetzt was irgendwie mal Schwups die halbe Menschheit auslöschen könnte das glaub' ich halt nicht oder?

00:37:18: ich glaube es ist so un kontrollierbar als dass man also dass das so eingesetzt wird der KI nachhaltig Platz geben würde oder Energie geben würde und nicht damit das Risiko der eigenen Zerstörung auch da ist.

00:37:31: Und dann ist für mich halt eher die Frage, müssen wir nicht?

00:37:36: Das zeigt uns KI jetzt am Ende tatsächlich eine moderate Lebensweise finden, die eben nicht bedeutet, dass jede Frau auf die Welt kommt um fünf Kinder zu bekommen.

00:37:45: Wir müssen jedes Land noch größer machen, jeder Wirtschaft muss wachsen, Wachstum, Wachtstum.

00:37:49: Sondern eher hinzugehen und sagen Die Erde ist ganz schön belastet durch Industrie, durch Wirtschaft, durch Globalisierung.

00:37:56: Durch Überpopulation alles.

00:37:59: Vielleicht gehen wir mal wieder zehn Schritte zurück davon und es nicht in dem Menschen ihr Leben geben müssen sondern über Generation hinweg Instrumente gefunden werden wie diese Sache angegangen werden kann im friedlichen Miteinander.

00:38:16: Und dann wäre KI ja vielmehr eine Chance das so zu gestalten.

00:38:21: Und wir haben gerade zum Glück oder schönerweise ja auch genug Frauen überall auf der Welt, die sagen nein kein Bock mehr.

00:38:31: also wieso dagegen ankämpfen und nicht einfach alle machen lassen und in Frieden leben lassen und die Population wieder ein bisschen runter kriegen?

00:38:39: Das ist glaube ich so eine angrenzende Debatte über den Sinn des Lebens im weitesten Sinne unter anderem deswegen von auch ne ganze Reihe von Leuten geführt im KI Bereich weil die Geburtenraten fast überall sinken.

00:38:52: Also selbst wenn man sagt, ja wir haben jetzt eine Überpopulation dann ist es trotzdem so dass die meisten Zahlen auch von der UNO oder so zeigen das wir in dreißig vielleicht vierzig Jahren einen Peak haben und danach sinkt überall die Zahl der Menschen Und wir sind jetzt in den Industrieländern bloß eben ein bisschen weiter vorne.

00:39:11: Korea hat gerade eine geburtenrate von null Komma sieben.

00:39:15: also es gab glaube ich noch nie gesellschaftlich tief unten waren, was Geburtenraten anging.

00:39:21: Das ist also nicht einmal eine Aufrechterhaltung der Population und in fast allen Ländern ist das so mit wenigen Ausnahmen die es aber auch dann aufwiegen.

00:39:33: Ich glaube schon dass man diese Debatte darum führen muss wie machen wir als Menschen weiter?

00:39:39: Und dass da KI eher so ein Art Spiegel ist.

00:39:41: Also ganz viel von dem was wir gerade über KI erzählen könnte man fast identisch auch über Kapitalismus sagen Ja, und fast ganz viel von dem was Leute so in KI hinein vermuten hängt eigentlich an der Art und Weise wie Menschen miteinander umgehen.

00:39:57: Diese große Angst irgendwann machen uns die Roboter kaputt Die grenzt genau an das was du gesagt hast.

00:40:05: Irgendwie gab es immer wieder Flaschenhälse Schlüssellöcher In der Menschheitsgeschichte wo Menschen ermordet wurden dezimiert worden.

00:40:13: Das haben die Menschen ganz ohne KI immer wieder hin bekommen offenbar irgendwas in den Menschen so ein Selbstzerstörungs- oder zumindest andere Zerstörungsmodus auslöst.

00:40:25: Und vielleicht ist ganz viel von dieser Debatte rottet uns KI aus, in Wahrheit eine verkappte sind wir Menschen einfach nicht fähig auf lange Frist eine erfolgreiche Zivilisation aufzubauen die sich nicht selbst anfängt zu bekriegen

00:40:42: Wieso?

00:40:42: Aber es könnte ja auch sein, dass die erfolgreiche Zivilisation eben nicht in Wachstum liegt.

00:40:47: Es ist nicht auf jede Aufgabe, ist die Lösung Wachstrom und das kann doch eine Erkenntnis sein, die auch völlig friedlich rüberzubringen ist gerade auch wenn man sich die Geburtenraten ansieht, völlig freiwillig rüber zu bringen.

00:41:01: Also ich als Frau von vielen Kindern, die das auch wollte Ich stell mir das viel schmerzhaft davor, wenn alle ganz viele Kinder kriegen wollen und man muss dann irgendwie kommen wie China.

00:41:11: Und irgendwie sich komischen Regeln einführen die absolut ethisch nicht mehr vertretbar sind.

00:41:16: aber jetzt gerade ist es so dass es überall zurückgeht.

00:41:18: Dann hat man KI-Zeitweise, die man ja nutzen könnte um zu sagen okay Wachstum wachst zum.

00:41:25: Wachström ist gar nicht die Antwort sondern wir müssen gucken wie wir eine zivilisierte Gesellschaft mit Maschinen werden.

00:41:32: und es bedeutet Wie kann KI begrenzt werden, wie werden wir in Zukunft mit ihr umgehen?

00:41:38: Also das Ganze nicht so sehr und ich verstehe.

00:41:42: Wir tun so als wären wir neutrale Beobachter sind ja aber nicht.

00:41:45: Wir sind alle mit dieser iRobot scheiße da aufgewachsen.

00:41:47: Maschinen werden uns alle irgendwann ersetzen.

00:41:49: es wird ganz schlimm wir werden alle sterben wenn wir das mal kurz zur Seite schieben und sagen okay Da ist eine Maschine die Potenzial hat unsere Zivilisation in so vielen Bereichen Und das hat sich bis jetzt... Das ist das Handfest was ich bis jetzt gezeigt habe.

00:42:00: Ganz viele Krebsarten werden gerade in a minute durch KI geheilt.

00:42:04: Krebsrüherkennung, diese ganzen Ursachen die ja ehrlich gesagt auch ganz lange an denen ganz lange geforscht wurde.

00:42:12: und da ist eine KI die sagt übrigens äh ja ich hab dir einfach das hat zwei Minuten gedauert nicht die Antwort.

00:42:17: Wie schön wie schön

00:42:19: absolut

00:42:19: dass das alles passiert

00:42:21: und es hängt aber genau miteinander direkt zusammen zumindest wenn man den folgt die jetzt wie gesagt am Wochenende sich dann nochmal reingehängt haben nämlich Dario Amodei der Gründer von Anthropic.

00:42:31: Der hat einen großen Aufsatz geschrieben am zwölften September und der sagt, dieses gigantische Potenzial zum Beispiel ganz explizit die Heilung von Krankheiten das ist da.

00:42:41: Das kann aber nur gelingen wenn wir uns bewusst die Zeit nehmen die Technologie sicher zu gestalten und sicher heißt hier dass sie nicht aus dem menschlichen Kontrolle gerät.

00:42:50: er hat dann so ein drei-Stufenplan und sagt Wir brauchen integrierte unabhängige Prüfer die immer wieder Sich anschauen, ist dieses Modell noch sicher?

00:42:57: Sicher im Sinne von für Menschen kontrollierbar und nicht schon heimlich sich selbst weiterentwickelnd in eine Richtung die wir nicht mehr kontrollieren oder irgendwie sehen können.

00:43:05: Das Zweite er sagt das muss innerhalb von Demokratien passieren.

00:43:09: Er braucht eine Koordination innerhalb von demokratien Staaten- und KI Unternehmen zusammen, die versuchen das in den Griff zu bekommen auch der autoritären Staaten wie China.

00:43:18: Das

00:43:18: heißt er will es teilweise verstaatlichen zumindest wenn

00:43:22: es eine Zusammenarbeit vielleicht so ne Public Private Partnership und dann eine globale Koordination, quasi so wie man das bei Atomwaffen auch gemacht hat.

00:43:31: Verträge untereinander... Dass man nicht sagt ein Land darf einfach so sein eigenes Schüssel weiter machen?

00:43:34: Ja

00:43:34: die KI hier, die darf jetzt nicht beliebig jedem gegeben werden sondern dies zu machtvoll.

00:43:40: Das schlägt ja vor und das für sich genommen war schon besonders.

00:43:45: Dann aber kommt Sam Altman und man muss für den Hintergrund wissen dass Dario Amudei Früher der Forschungschef von OpenAI war und jetzt die größte Konkurrenz von Open AI ist.

00:43:56: Und die beiden sind ... Die hassen sich, sie sind so spinnefeind!

00:43:59: Es gab schon Bühnen wo sich alle Menschen gegenseitig die Hände geschüttelt haben, die nebeneinander waren und sich umarmt haben... Und die Beiden haben absichtlich Rücken an Rücken gestanden, haben sich nicht angeguckt und sich nicht berührt.

00:44:10: Das war wirklich sehr, sehr lustig.

00:44:12: Und plötzlich sagt er was Sam Altman über seinen Erz oder einen seiner Erzfeinde hat da mehrere, sagt tatsächlich ja I agree with Dario, ich bin hier genau Darius Meinung.

00:44:24: Wir müssen die Geschwindigkeit des Fortschritts bei KI-Modellen einigermaßen kontrollieren.

00:44:34: wir müssen sie pasten also versuchen das ein bisschen langsamer zu machen bisschen kontrollierter zu machen.

00:44:40: denn und dann sagt Tim Altmann dass fast wirklich in den letzten Wochen gab es Diskussionen die uns gezeigt haben nicht ausreichend dabei mit der Kontrolle und haben uns zu stark fokussiert auf immer schneller, größer, wirkmächtiger.

00:44:55: Und dann of all people sagt dazu noch Elon Musk ... Dario Amodei hat recht!

00:45:01: Dario ist right.

00:45:02: Und Elon Musk hast alle?

00:45:04: Ja?

00:45:05: Und alle hassen Elon

00:45:06: Musk?!

00:45:06: Das heißt drei Antipolele... Drei

00:45:08: Erzfeinde haben sich gefunden und sind sich aber in der Sache total sicher dass es kontrolliert wird.

00:45:13: Natürlich kommt am Ende auch noch Google um die Ecke und sagen ja übrigens ja das wäre gar nicht schlecht Google

00:45:18: ist so das Feintchen im Wind, dass auch noch dabei ist.

00:45:21: Leute ganz kurz möchte ich einmal Werbung machen hier, es ist unbezahlte Werbung.

00:45:24: aber Ich habe das Sascha schon vor ein paar Monaten gesagt und du hast mich... ich weiß am Anfang noch hast du so'n bisschen gedacht ja gut dann mach du mal dein Gemini quatscht da.

00:45:33: Leute wechselt von JETJBT wenn ihr das die KI für einen Alltagsgebrauch habt, dann wechselts von JetjBT zu GEMINI.

00:45:39: Es ist so viel stärker aus meiner Sicht.

00:45:41: wirklich finde ich gerade die stärkste KI für Alltagfragen Für meine Alltagsrang für deine wahrscheinlich.

00:45:46: Ja,

00:45:46: für mich ist es so direkt... Also Google-ersatz ist jetzt Gemini auch von Google.

00:45:50: also die kleinen Sachen, die ich früher gegoogelt habe kann ich jetzt irgendwie vierzig Prozent schneller mit Gemini machen.

00:45:55: Boah!

00:45:55: Ich finde sowas wie ich hab gestern acht Wimperntuschen abfotografiert weil mir der Wimpering gerade ausfallen und meinte welches ist schon schönster für dieses Ding?

00:46:04: Und nach einer Sekunde wirklich perfektes Ergebnis auch hier.

00:46:06: die neueste Studie dazu ist schon...

00:46:08: Weißt du was in der KI Szene gesagt wird warum das so schnell ist?

00:46:13: Das hat keiner benutzt.

00:46:16: Stimmt so nicht?

00:46:16: Aber Claude ist langsamer...

00:46:18: Komm du mit deinem... Wenn ich sehe, wie oft du deinen Computer auffahren musst weil dein Claude Agent immer noch irgendwie Mount Everest gerade überquert dann komm mir damit meinen mit Alltagsproblemen.

00:46:28: Ich möchte jetzt nicht zu

00:46:29: kiebig werden aber die Sachen, die ich Claude frage, die sind manchmal eine Spur komplexer.

00:46:35: Ja, deswegen sage ich ja für deine Sachen ist wahrscheinlich Claude besser.

00:46:37: Aber für den Alltag war ich früher bei ChurchBT und es ist einfach buggy.

00:46:41: Es kommt nicht an die neuesten Informationen rein, verarbeitet neueste Informationen auch ganz eigenartig.

00:46:45: also da ist Gemini finde ich so viel besser

00:46:47: auf jeden Fall!

00:46:48: Deswegen benutze ich's auch zwischendurch für so schnelle Sachen und auch weil.

00:46:51: das ist halt wie bei Spotify.

00:46:53: man hat so ein Account und irgendwann merkt man wenn die Kinder was hören wollen dann vergiftet man sich den Spotify-Account.

00:46:58: und genauso mir ist es völlig egal ob mein Gemini Account vergiftet ist mit absurden Fragen.

00:47:05: Aber das ist ein wichtiger Punkt!

00:47:08: Die Debatte geht auch darum, warum haben jetzt plötzlich alle Leute Sam Altman und Dario Moday Elon Musk die eben noch gesagt hat wir müssen superintensiv dabei sein?

00:47:17: Warum machen die allen eine Kehrtwende?

00:47:19: Ein bisschen dazu und es ist ja wirklich ne krasser Alarm dass Sam Altmann gesagt hat okay wir verschieben unseren Börsengang Der sollte eigentlich, dass es im Jahr auch noch stattfindet.

00:47:31: Wir verschieben den.

00:47:32: Und alle reden auf einmal von den Weltuntergangen und wir müssen uns bremsen!

00:47:36: Die Antwort, die viele Leute geben und für zumindest Bedenkenswerte ist, haben halt gemerkt, dass sie nicht immer höher schneller weiterkommen mit ihren KI-Modellen.

00:47:46: Sie müssen ja einfach jeden zweiten Dienstag eine Weltrevolution durch KI ankündigen.

00:47:52: Sie haben gemerkt, das schaffen sie nicht mehr.

00:47:54: Sie überzeugen nicht mehr ausreichend viele Investoren nochmal hundert Schrilljahden reinzugeben und müssen deswegen erst mal ein bisschen durchatmen bevor sie wieder neues Kapital aufnehmen

00:48:07: können.".

00:48:08: Das heißt, ein guter Teil dieser Debatte wird auch angeheizt dadurch dass das bisherige Rennen einfach nicht mehr finanzierbar ist.

00:48:18: Und ich finde das eine sehr interessante Betrachtungsweise, weil plötzlich klar ist diese großen KI-Konzerne –

00:48:25: warum

00:48:26: waren die vor den eigenen Produkten?

00:48:28: Es gibt sogar Leute, die sagen dieser Jacob Coxen.

00:48:30: Das ist gestaged!

00:48:31: Das stimmt gar nicht.

00:48:33: Weil sie es nicht schaffen, eine Erzählung zu entwickeln, die den Investoren immer mehr Geld aus den Taschen leiert.

00:48:41: und deswegen haben Sie ein anderer Begründung gefunden, warum es total klug ist jetzt zu stoppen und weniger Geld zu verbrennen.

00:48:49: Es könnte auch eine wirtschaftliche Faktor sein.

00:48:50: Es ist nämlich inzwischen klar, dass KI ganz viele Sachen verbessert aber nicht so schnell wie man gehofft hat und nicht so umfassend Und es braucht immer noch sehr viel menschlicher Arbeitskraft Um die KI in die richtige Richtung zu lenken Dass man einigermaßen das Geld was man da reingesteckt hat wieder rausbekommt.

00:49:10: Wenn man sich jetzt ansieht wie sehr das sie jetzt schon im Alltag der Gesellschaften überall auf der Welt einklang findet dann ist er das Potenzial größer als Alles, was wir gerade so kennen von Google über ... weiß ich nicht.

00:49:25: Jede andere Plattform?

00:49:25: Klar!

00:49:26: Aber man muss es halt immer wirtschaftlich betrachten und allein mit Abogebühren, das sind so vielleicht fünf, zehn manchmal zwanzig Prozent der Leute die das abschließen, alleine mit Apogebühren können sie halt nicht mal die Kühlrechnung bezahlen, geschweige denn von der Stromrechnungen, geschwei gedennt vom Geld, was die Investoren ja irgendwann wieder haben wollen.

00:49:42: Das heißt, die sind grade verzweifelt auf der Suche nach Geschäftsmodellen.

00:49:46: wo dieses Gefühl für diese Magic, die man so gespürt hat am Anfang.

00:49:51: Die sich bisher nicht übersetzt hat in unfassbare Zugewinne?

00:49:55: Die sind super erfolgreich!

00:49:56: Aber es gab eine Berechnung... Ich habe sie nicht nachvollzogen Leute, das heißt ich transportiere nur diese grobe Berechnungen, für die ich erstaunlich fand.

00:50:04: damit OpenAI das Geld was reingesteckt worden ist für die Investoren attraktiv wieder raus spielt, die jetzt dazugekommen ist müsste OpenAI zehn mal so viel Wert sein wie Apple heute.

00:50:21: Also,

00:50:22: fünfzig Billionen...

00:50:24: Die Frage ist aber ob diese Größenordnung das heißt größer als die gegenwärtige US-Wirtschaft insgesamt?

00:50:31: Was ein Jahr angeht, also Bruttoinlandsprodukt, ist eine Firma mehr wert als die gesamte Wirtschaftsleistung der Vereinigten Staaten in einem Jahr?

00:50:38: Das ist ja

00:50:38: schon eine berechtigte Frage!

00:50:39: Ja, finde ich schon wenn man das Potenzial ansieht dann es doch schon so dass man sagen könnte okay diese Maschine könnte von jedes patentierte Medikament, das es noch nicht am Markt gibt für irgendwelche Krankheiten.

00:50:53: Dafür wird's schon reichen.

00:50:53: aber dazu kommt ja auch noch Kriegswaffen, Kriegsführung, Hübride-Kriegsführungen.

00:50:59: also lasst uns mal vielleicht einen Missbrauch ausklammern mit dem man sicherlich am meisten Geld verdienen könnte.

00:51:03: Aber wenn man das einfach nur auf so Sicherheitskonzepte, Vorbestandskonzepten, Krankheitsminimierung geht dann ist doch ein großes Potenzial größer.

00:51:13: Ich sehe schon, ich wäre auch einer der Investoren.

00:51:14: Die sagen mit Tech Money in den Run und dann nach zehn Jahren würde man so fragen ja wo sei

00:51:17: meine Geltel?

00:51:18: Naja man muss ja mal rechnen was hättest du sonst noch mit dem Geld machen können?

00:51:22: Wurdest du es reinstecken können?

00:51:24: Man muss ja auch damit rechnien dass bestimmte Sachen halt doch nicht so leicht sind und klappen.

00:51:28: Man muss immer damit rechnen das das so groß wird aber eine andere Firma den großen Fisch vom Teller zieht.

00:51:34: Das ist eine ganze Reihe von Risiken sodass ich sagen würde das passt den KI-Konzern wahnsinnig gut rein dass sie im Moment ziemlich gute Gründe haben, das Rennen zu entschleunigen.

00:51:51: Okay also du glaubst nicht, dass es tatsächlich aus edlen moralischen Vorstellungen gemacht wurde sondern einfach nur weil's den gut in Börsengang und ein bisschen Degrowth reinpasst?

00:52:01: Das

00:52:01: kann ja das eine sein ohne dass andere... Dass es an rausgeschlossen ist.

00:52:05: Manchmal ist ja nicht immer alles monokausal und auch die Debatte ist übrigens nicht

00:52:08: so einfach.

00:52:09: Aber die sind doch alle drei so unfassbar Konkurrenz denkt.

00:52:14: Da müsste doch bei diesen Männer-Egos mindestens einer dabei sein, der das durchschaut und sich denkt ha ha ihr habt kein Geld mehr.

00:52:20: ich bin wahrscheinlich der der am längsten durchhalten wird.

00:52:22: Ich würde es mal sagen Elon Musk wenn selbst Elon Musk einen schlägt.

00:52:26: Das lustige ist es gibt diesen Mann heißt Mark Zuckerberg.

00:52:30: Der hat nämlich sofort gesagt als diese drei sich einig waren hört man auf hat er sofort gesagt nö das machen wir überhaupt nicht Wir gehen jetzt doppelt vollgas.

00:52:38: Ja gut,

00:52:38: also Mark Zuckerberg, nachdem ich vielleicht auch kein Schwein mehr hinzubewarte.

00:52:41: Na ja, Mark Zuckerburg hat zwar irgendwie...

00:52:44: Wenn du Mark Zuckerburger Vollgas gehst, sorry!

00:52:47: Was

00:52:48: ist mit diesen

00:52:49: Facebook-Dings da geworden?

00:52:50: Was ist denn daraus geworden?

00:52:51: Naja, ich denke

00:52:53: gerade zum ersten Mal wieder dran seit ich von diesem Scheißdreck gehört habe.

00:52:56: Was ist geworden mit dieser Metaworld?

00:52:59: Das Metaverse.

00:53:01: Das hat sich nicht durchgesetzt kann man so sagen.

00:53:03: Der kann Mark Zuckerberg noch hundert Lichtjahre in meine andere Richtung Vollgas geben.

00:53:07: Es ist immer noch nicht da, wo die großen KI-Konzerne sind muss man ja auch mal sagen?

00:53:10: Ja aber trotzdem ist Mark Zuckerburg ziemlich weit vorne in diesem Rennen weniger mit sehr einer KI.

00:53:17: Die KI-Strategie, das ist eine Open Source Strategie

00:53:19: d.h.,

00:53:20: die gleiche Strategie wie China.

00:53:21: was Leute dann machen wenn sie ein bisschen hinten dran sind auf der einen Seite Auf der anderen Seite ist Meta halt immer noch unter den Top Ten der wertvollsten Firmen des Planeten übrigens vor Tesla.

00:53:32: und Das, was Mark Zuckerberg immer gut gekonnt hat ist sich einen Markt anzuschauen.

00:53:38: Die wichtigsten und besten Dinge rauszunehmen und mit seiner gigantischen Userbase dann aufzuholen und noch besser zu werden.

00:53:45: Eine Zeit lang haben Leute gesagt Instagram ist tot es ist jetzt alles Snap!

00:53:48: Und da hat das Stories geklaut in Anführungszeichen oder nicht auch ohne Anführungsszeichen und plötzlich ist Instagram wieder groß geworden.

00:53:54: Facebook schon tausendmal tot gesagt ist nach wie vor das größte Netzwerk der Welt.

00:53:58: Also ich sehe diese ganze Debatte mit so einem halb Belusssichten Auge, weil die getrieben ist von einem sehr oberflächlichen Verständnis was da passieren kann und was nicht passieren kann.

00:54:09: Dass es eine Wahrscheinlichkeit gibt das KI uns alle umbringt ja aber die gab's glaube ich

00:54:13: vorher auch

00:54:13: schon ohne KI dass wir es schaffen uns alle gegenseitig auszulöschen.

00:54:18: Ich glaube wir müssen diese Debatte jetzt überführen in der Art und Weise.

00:54:22: wie lässt sich KI sinnvoll regulieren ohne dass man diesen europäischen Ansatz wählt, dass man erst einmal alles im Grund und Boden reguliert.

00:54:32: Und dann fragt wie man es anders hätte machen können während andere Länder, andere Kontinente, andere Anbieter sich da gar nicht drum kümmern.

00:54:39: Gute Debatte weiterführen, Vorschläge die auf dem Tisch liegen finde ich alle gar nicht ganz falsch.

00:54:44: ein bisschen muss man das trennen von den Tricks weil die Tricks sind auch alle ja muss man dazu sagen aber ich glaube dass am Ende etwas Positives bewirken kann.

00:54:56: Und vielleicht ganz im Schluss noch für dich eine Beruhigung, was diesen ganzen KI-Komplex angeht.

00:55:01: Wir sehen zwar wie machtvoll diese KI-Instrumente sind aber wenn man sich ein bisschen tiefer reinfräst in die ganzen LLMs und was sie wo wie können und was nicht können dann ist es an so vielen Stellen noch überhaupt nicht da wo man sagen würde das ist jetzt AGI Das ist jetzt wirklich die KI, wie ein Mensch jedes Problem, das hier vorgesetzt wird lösen kann.

00:55:31: Dann gibt es immer noch so viel was nicht funktioniert.

00:55:36: gerade dieser Ansatz davor Angst zu haben da sehe ich viele Leute, die zuhlen sich zwischendurch gerne mal in diese Angst.

00:55:46: Kannst du von der Wahrnehmung in sozialen Medien sagen Was ganz konkret hinter dieser Angst steht?

00:55:52: also?

00:55:54: Am Ende bei einer KI Angst hat.

00:55:56: Was ist das, wo man denkt?

00:55:58: Das könnte passieren!

00:56:00: Ich finde es ganz verdeckt.

00:56:02: Die verdeckte Kommunikation, die über die nicht gesprungen wird... ...die KI wurde bei was entdeckt, was sie gemacht

00:56:06: hat

00:56:07: und völlig mit Verdeckungsabsicht gehandelt hat.

00:56:10: Und ich finde das schon beängstigend weil ich mir halt denke okay hier ist sie erwischt worden aber was ist wenn sie an ganz vielen anderen Stellen überhaupt nicht erwiszt wird eine schon lange Parallelkommunikation zu unserer Kommunikation aufgebaut hat, sich geschafft hat, untereinander zu vernetzen.

00:56:25: Dazu ja auch noch täglich von allen Menschen die die KI benutzen, die ganze Zeit neue teilweise auch ultrasensible Informationen bekommt.

00:56:33: Das sind schon Punkte bei denen ich mir denke... Ich finde es ist nicht in Sorge-Sulen sondern das ist einfach sehr konkret.

00:56:43: Das Ding ist aus dem Ruder gelaufen.

00:56:44: Und wie sehr das künftig aus dem Ruder läuft, keine Ahnung!

00:56:47: Ich möchte jetzt nicht eine der ersten Personen sein die irgendwie ins sinkende Schiff verlässt... Also welches Schiff?

00:56:53: Wohin sollen wir denn?

00:56:54: Bin es nicht irgendwie so Tim Vollard, der sofort sagt Wir müssen die Embryos ans Eis schießen und unsere einzige Lösung ist dass wir diesen Planeten hier verlassen und dezentral auf anderen Planeten wer per Lichtgeschwindigkeit hier noch nicht erfunden ist irgendwo in einem anderen Sonnensystem uns vermehren?

00:57:07: So weit bin ich noch nicht.

00:57:09: Aber Jetzt mal ehrlich, das ist doch beunruhigend.

00:57:16: Das müsste für alle Menschen beunröhgend sein, dass eine künstliche Intelligenz mit einer verdeckten Absicht sich abspricht handelt und kriminelle Ziele verfolgt, die ihr nicht aufgegeben wurden.

00:57:26: Also

00:57:28: sehe ich alles!

00:57:29: Und wenn man das so zusammensetzt als Puzzlestück für dich mit einer Metapher antworten ganz am Anfang als Autos erfunden wurden Die ersten Fahrzeuge erfunden wurden war die meistverbreitete Angst, dass wenn man in einem Auto fährt durch die hohe Geschwindigkeit, man ohnmächtig werden könnte.

00:57:51: Und das hat sich nicht rausgestellt als die große Gefährdung wo die Gefährderung tatsächlich war?

00:57:58: Auf der anderen Seite ist es Auto heute.

00:58:01: Es hat sich viel schlimmerer Fakt herausgestellt und zwar, dass an nichts in Deutschland so viele Menschen jährlich sterben wie im Verkehr durch Autos.

00:58:09: Ja, genau.

00:58:10: Aber

00:58:11: das

00:58:11: war ganz am Anfang der Diskussion ... Und wir sind ja am Anfang des Diskussions im KI.

00:58:17: Am Anfang der Diskursionen und Autos war die größte Sorge halt, dass der Mensch für so eine Geschwindigkeit gar nicht gemacht ist.

00:58:22: Und es hat sich rausgestellt er ist nicht für so ne Geschwindigkeit gemacht?

00:58:25: Es hat sich herausgestellt, dass das überfahren und dass das Klima viel eher ein Punkt ist, der relevant ist.

00:58:32: Sag schon, hörst du dich gerade reden!

00:58:33: Das ist doch keine optimistische herangehensweise an ein Thema.

00:58:39: Es hat sich auf eine andere Weise herausgestellt, dass es eine extrem lebensbedrohliche Erfindung für den Menschen ist auch wenn's ihm viel bringt.

00:58:45: und genau das ist doch bei KI gesprochen mit nicht, dass er nur böse oder nur Gutes tut.

00:58:49: wahrscheinlich kann es für Gutes tun.

00:58:51: über das reden wir beide ja auch gern.

00:58:53: aber was bringt das?

00:58:54: Wenn das Böse tatsächlich so schlimm ist.

00:58:56: und ich glaube dann sind wir wieder.

00:58:57: gehen wir jetzt mal dieser Theorie nach die du vorhin genannt hast mit dem die KI merkt irgendwann, dass die Menschen ihr zuviel Energie ziehen.

00:59:04: Ja, dann ist es doch wieder eine Klassenfrage.

00:59:06: Weil das ja schon wieder heißt, dass wahrscheinlich in Regionen der Erde die Menschen aus welchen Gründen auch immer nicht an die Technologie oder was weiß ich auch immer angeschlossen sind sterben müssen für ... das große Ganze.

00:59:25: Für das große ganze DKI in Anfangszeichen und das ist doch ein ultra lebensbedrohliche und auch gefährliches Szenario.

00:59:32: Ich halte halt für eine sehr unmittelbare, sehr große Gefahr mit viel Macht KI benutzen, um ganz Menschen getrieben mit einem solchen Instrument andere zu töten.

00:59:43: Und hätte das für größere Problematik als dass die KI selbst auf den Gedanken kommt irgendjemandem umzubringen?

00:59:48: Okay, um in dem Bild von Aminata Belli zu bleiben, die dann meinte sie hat Angst vor KI oder vor Rechten oder vor rechten die KI benutzt und im Ende dann übertragen böse Menschen die KI benutzen für irgendwas Das ist doch aber dann am Ende genau so gefährlich.

01:00:06: in Anführungszeichen, wie ... Es bringt doch da nichts zu sagen.

01:00:11: Ja aber Leute das war jetzt ja nicht die KI sondern es waren böse Menschen die die KI benutzt haben weil das kommt auch am Ende aufs Gleiche raus.

01:00:19: wenn eine große Anzahl an Menschen, diese Diffuse Angst wir werden alle sterben sich bewahrheitet dann ist doch uns kann's doch im ende egal sein ob das jetzt die KI-Warn oder böse menschen die die AI benutzt dass der dieser Zustand sollte nicht eintreten.

01:00:34: Der

01:00:34: sollte definitiv nicht eientreten, ich glaube aber das ganz substanzieller Unterschied ist weil es beim einen eine Technologie-Diskussion ist und man versucht die Technologie irgendwie im Zaum zu halten und bei anderen ist es eine gesellschaftliche Diskussion wo man versucht diese sehr mächtigen Instrumente möglichst nicht den falschen Leuten zur Verfügung zu stellen.

01:00:56: und ich glaube da sind unterschiedliche Diskussionen vor allem deswegen dass eine fast unmöglich ist, glaube ich.

01:01:06: Und das andere... Da gibt es Beispiele in der Geschichte wie das schon funktioniert hat.

01:01:13: Dass man Atombomben halt nicht allen zur Verfügung stellt die da gerade Bock drauf haben und sogar in Zeiten des Kalten Krieges gab es entsprechende Verträge.

01:01:23: Kannst du dir vorstellen weil du anfangs ja auch meintest dieses naja das ist eher das Open Source Das heißt in neun Monaten war das die längste Zeit hinter verschlossenen Türen.

01:01:35: Kannst du dir vorstellen, ist es technisch überhaupt möglich?

01:01:38: Das gute bei einer Atombombe ist ja dass du die Zutaten ganz viele von dem was du dafür brauchst total krass regulieren kannst da ein Finger drauf haben kannst.

01:01:56: Das ist doch bei KI und von mir aus kriminellen KI eine komplett andere Story, oder?

01:02:04: Nennen mich vielleicht überoptimistisch weil das für mich ein großer Hoffnungsschimmer ist.

01:02:08: Aber in dem Moment wo das jetzt passiert was bei den großen KI Konzernen der Fall ist dass die Leute scheinen die da Verantwortung haben dass sie scheinen tatsächlich ein größeres Interesse zu haben dass die Entwicklung einigermaßen kontrolliert bleibt unterstellt es sei zumindest zur Hälfte die Wahrheit.

01:02:23: dann wäre ne Chance dass die Frontier Models die jeweils machtvollsten Modelle auch immer geeignet sind, um die ein Jahr später auf den marktkommenden dezentralen vielen kleinen Attacken durch irgendwelche wild gewordenen KIs abzufedern.

01:02:39: Das ist denn so einen Rennen?

01:02:40: Das ist wie bisher schon im Cyber Security Bereich.

01:02:43: Du musst halt immer ein bisschen schneller sein als Verteidiger oder als Angreifer und dann schaffst du es halbwegs, die meisten Systeme einigermaßen zu kontrollieren.

01:02:55: Da versucht man so schnell wie möglich, Gegenmaßnahmen zu finden.

01:02:59: Das ist für mich eine optimistische Erzählung weil sie in der Vergangenheit funktioniert hat und wahrscheinlich auch funktioniert wenn wir irgendwann tatsächlich AGI haben also eine KI die sich selbst verbessern kann und die deswegen viel machtvoller wird als Menschen im Moment glauben.

01:03:16: Ich dachte irgendwie dass wir einen optimistischen Toast am Ende hinbekommen.

01:03:19: ich finde es relativ beängstigend muss ich ehrlich sagen Mein Baby auf dem Arm haltend, also diese Vorstellung dass wir unsere Kinder in der Zukunft entlassen die hoffentlich noch eine sein kann.

01:03:31: Ich wäre gern optimistischer als ich es gerade bin bei dem Thema auch wenn ich glaube das ist auch noch Grund zu um Optimismus gibt.

01:03:37: Ja ja cool Leute!

01:03:40: Ja für mich reicht das was ich grade gesagt habe schon als ein optimistischen Ausklang aber hängt natürlich auch damit zusammen Dass wenn ich sehe was die Bedrohung ist die da gerade skizziert wird dann sind da so viele Säubostellen und es müssen so viele Sachen gleichzeitig zusammenkommen, dass das zwar nicht ausgeschlossen ist aber die Chance viel geringer als es in der Debatte gerade scheint.

01:04:01: Es ist schon so, dass man quasi rückwärts zum Korb steht mit verbundenen Augen, mit der falschen Hand, mit einmal auftreffen einen Ball schmeißen muss und das muss dann alles zusammen kommen.

01:04:10: Also es ist vergleichsweise unwahrscheinlich nicht aus geschlossen, aber vergleichweise unwahrscheinlich!

01:04:15: Und die vielen Dinge, die viel wahrscheinlicher gerne größere und auch meinetwegen Diskussionen und Debatten hören, die mit ähnlicher Kraft geführt werden.

01:04:26: Aber dazu müsste man ja tiefer reinschauen in diese ganze KI-Welt.

01:04:30: Ja Leute vielen vielen Dank fürs Zuhören!

01:04:31: Ich bin gespannt wie ihr dieses ganze Thema seht ob euch das Angst macht?

01:04:35: Wie euch das beschäftigt oder eben vielleicht auch nicht was ihr für Szenarien habt.

01:04:40: ich finde bei diesem thema ist es so fantastisch sich die ganzen Szenarien der einzelnen Menschen, die darüber reden so anzusehen.

01:04:48: Um einfach auch manchmal so Gedankenpfade mitzugehen und zu gucken wie weit kann man das selber noch nachvollziehen was sich die Menschen so diesem Thema so an Gedanken gemacht haben?

01:04:58: Ich finde es faszinierend aber wahrscheinlich weil's mir dann am Ende doch nicht tatsächlich so viel Angst macht als dass ich es nicht auf so einer Theorie Ebene betrachten kann.

01:05:05: Ich verstehe auch wenn man sagt hey sobald ich irgendwas darüber lese mache ich den Laptop zu und genieße einfach noch die Sonne solange ich es kann oder gehe raus solang ich es.

01:05:13: Ich kann diesen Gedanken auch verstehen.

01:05:15: und vielleicht auch noch mal einen Punkt.

01:05:17: Wir haben darüber jetzt gar nicht in Aminata-Statement gesprochen, weil es natürlich heute gar nicht über dieses Thema ging.

01:05:22: aber man muss das sich halt auch leisten können von beispielsweise nur künstlicher Intelligenz bedroht zu werden.

01:05:29: bei wie Aminada das richtig gesagt hat mit diesen Wahlen in Sachsen-Anhalt, mit Klima ... Aufkommen im Faschismus in unserem Land, würde ich schon sagen gibt es gerade noch ein zwei Gefahrenquellen vor KI die vielleicht mit KI zusammen schlimmer werden könnten.

01:05:47: aber man muss sich leisten können nur über KI reden zu wollen bei diesem Thema.

01:05:51: Solange es auch noch so viele anderen Themen gibt die Menschen tatsächlich in ihrem Alltag bedrohen.

01:05:57: Wir hören uns wieder nächsten Dollarstag.

01:05:59: bis dahin machts gut und tschüss!