Wird uns KI alle töten, und wenn ja, wie?

00:00:01: Hallo Leute, wie schön dass ihr einschaltet.

00:00:03: Wir sind Sascha und Jule Lobo und das ist eine neue Ausgabe von.

00:00:06: wir werden alle sterben!

00:00:08: Nein okay POV der Podcast der euch Orientierung bieten soll zu denen man unterschiedliche Haltungen einnehmen kann.

00:00:14: Und heute wollen wir über Das Ende der Menschheit und die Bedrohung durch KI sprechen.

00:00:21: Der aktuelle Anlass ist eigentlich einer des in den Vereinigten Staaten seit einiger Zeit schon debattiert wird über die Sicherheit von künstlicher Intelligenz Die sogenannten Doomsayer.

00:00:33: Die gab es im Prinzip von Anfang an, Leute die gesagt haben, die Maschinen werden uns alle umbringen natürlich immer ein bisschen beeinflusst durch Science Fiction und Terminator und so.

00:00:42: aber inzwischen sind die Stimmen nicht nur lauter geworden sondern eine Regelmäßigkeit hat sich eingestellt in Leuten die praktisch bis gestern noch gearbeitet haben bei großen KI-Unternehmen Und dann irgendwann gesagt haben, ich kann nicht mehr dort arbeiten mit gutem Gewissen.

00:00:59: Denn wir sind auf dem Weg quasi in den Weltuntergang.

00:01:02: so zuletzt passiert im Juli und auch im

00:01:05: August.".

00:01:17: nach seinem Nobelpreis gesagt hat, ich kann eigentlich nicht mehr verantworten daran weiterzuarbeiten.

00:01:22: Gab es am neunten September, in ganz konkreten Anlass im Form von Jacob Coxon.

00:01:30: Der hat sowohl bei OpenAI als auch bei Anthropic den großen Konkurrenten mit Claude gearbeitet und hat gekündigt am neunte September und musste natürlich so will ist das dringendste Gebot darüber twittern.

00:01:45: Er hat getwittert, dass diese beiden größten KI-Konzerne beide völlig verantwortungslos handeln würden und das dieser ständige Selbstverbesserungsansatz was künstliche Intelligenz angeht aus seiner Sicht innerhalb der nächsten zehn Jahre dazu führen könnte.

00:02:02: Dass die Menschheit ausgelöscht würde, dass die Welt untergehen würde.

00:02:07: Und an diesem Tweet, der inzwischen hundertsiebzig Millionen Mal angeschaut worden ist ...

00:02:18: Ich will heute mit dir drüber sprechen wie wahrscheinlich diese Szenarien sind und auf welche Szenare man sich einstellen könnte aber eben auch was gerade so in der KI-Welt geht.

00:02:28: das ist absolut dein Thema mit dem du dich von morgens bis abends befasst dass dich ja um einen meisten interessiert.

00:02:35: Ich bremse uns hier immer so ein bisschen in unserem Podcast aus, weil du ja auch noch mal einen Tech-KI und Schmetterlinge-Technik-Podcast hast.

00:02:43: Brems ich dich immer hier so ein bißchen aus?

00:02:44: Aber wenn es, sag' ich mal die technischen Meldungen was für Sascha gefühlt jede zweite Woche ist das er sagt wir müssen über KI reden da fast jeden Tag was mega Spannendes!

00:02:52: Und...ich hör's mir dann immer so an und denk mir ja ne ok lass uns lieber über Xavier Nadu sprechen aber es ist so sehr auch in meiner Welt ...kommt wahrscheinlich auch in eure Welt in der letzten Woche dass ich dachte ey Wir müssen eigentlich diese Woche über dieses Thema reden, auch weil so aufgeregt wie du bei diesen Themen meistens bist.

00:03:13: Bist du es oft nicht wenn ich aufgerebt werde?

00:03:15: Und ich merke bei dem Thema war ich total aufgeregte da zur Woche und du warst ein bisschen eher nee.

00:03:23: Genau über dieses Gefühl möchte ich reden.

00:03:25: Ich habe jetzt erstmal eine Stimme von Aminata Belli dabei die ähnlich aufgereckt war wie ich diese Woche und folgen das zu dieser Meldung Instagram-Tut.

00:03:36: Sie können all die durch KI bis zum Ende des Jahrzehnts.

00:03:39: und ich habe mich wirklich gefragt, wofür hab' ich jetzt eigentlich am meisten Angst?

00:03:43: Oder ihr, wovor habt ihr am meisten angst?

00:03:45: Habt ihr Angst das Rechtsextreme euch umbringen oder habt ihr Angst dass die KI euch umbringt?

00:03:51: Oder habt ihr mehr Angst vor Umweltkatastrophen?

00:03:54: Oder haben wir mehr Angst von Pandemien?

00:03:56: Oder hat ihr ja meistens Angst vor rechtsextrime, die die KI nutzen?

00:04:00: Und währenddessen kriegt die Klimakrise.

00:04:04: Und irgendwie habe ich dann gedacht, wenn man vor allem Angst hat ist ... irgendwie hab ich dadurch ein bisschen weniger Angst gerade bekommen.

00:04:12: Weil ich dachte wir werden halt eh dann sterben.

00:04:17: Also wenn es die KI ist, kommt's auch nicht mal drauf an wie du aussiehst oder deine Herkunft oder so und wir werden einfach alle sterben?

00:04:24: Das will ich irgendwie schon wieder fast nicht beruhigend, das werde ich jetzt übertrieben aber ich finde es so beunruhigend dass ich eigentlich gar nicht mehr weiß wie ich damit umgehen soll.

00:04:34: We're all in this together.

00:04:39: Lass uns mal drüber sprechen, man hört in den letzten Wochen und das finde ich das beruhigende daran weil es gibt ja schon länger diese Tagbrows die ganz lange an irgendeiner technischen Sache mitmachen und dann so ihre Oppenheimer Fantasien ausleben und plötzlich zu tun als hätten sie den Atombombencode entdeckt.

00:04:55: Ich habe bei diesen Statements immer das Gefühl Ihr nehmt euch gerade wichtiger, als es eigentlich ist die ganze Thematik.

00:05:03: Ihr wollt gerne die Person sein, die für das Ende der Menschheit zuständig ist, weil ihr nazistische Persönlichkeitszüge habt und Größen waren?

00:05:10: Ihr seid es nicht!

00:05:11: Und ich hab so ein Bitt gehört von einem Comedian aus Amerika, der meinte Ich bin's leid dass irgendwelche Tech-Dudes alle sechs Monate uns erklären, dass es das Schlimmste ist an dem sie da mit gearbeitet haben nachdem Sie daran mit geararbeitet haben.

00:05:24: It´s giving Trump wählen und dann zu den Leuten sagen, krass Leute so schlimm hab ich's mir gar nicht vorgestellt wie es jetzt ist.

00:05:30: Du wusstest wie schlimm das ist woran du mitgearbeitet hast.

00:05:32: Hör auf jetzt von Statement rauszubringen als wärs ne große Überraschung dass keine gute Idee ist für Elon Musk zur Arbeiten beispielsweise.

00:05:41: Das ist was du da beschrieben hast schon Teil der Problematik wenn man so zwei Schritte zurücktritt gerade ein Tweet der hundertseptzig Millionen mal angeschaut wird ja das ist weltweiter rum kann man nicht anders sagen.

00:05:56: In dem Moment, wo man sich öffentlich bekehrt und sagt bis gestern war ich noch voll für KI und jetzt bin ich dagegen hat man die Aufmerksamkeit sicher und zwar mehr oder weniger weltweit.

00:06:09: und ich glaube diese Verführung das wann immer man denkt oh hier passiert tatsächlich was schwieriges?

00:06:16: Was so ist.

00:06:18: Da gibt es ganz viele Beispiele, über die wir auch gleich noch reden können.

00:06:20: Angefangen zum Beispiel damit dass Claude ja fürs Verteidigungsministerium eine ganze Reihe von Dingen tut wo KI eine Waffe ist.

00:06:27: da gibt es halt immer diesen Punkt das man wenn man bloß Buse tut dass man dann von seinen Sünden gereinigt werden kann.

00:06:35: und wenn man dazu noch weltweite Aufmerksamkeit bekommt Dann hat man die meisten die bei diesen Unternehmen arbeiten der Typ Jacob Coxen auf jeden Fall sind ja multimillionäre allein dadurch dass sie unfassbare Gehäter bekommen Dann hat man die Möglichkeit, das Beste für sich rausgezogen zu haben.

00:06:53: Seine Schieflein ist trockene geholt zu haben, seinen Gewissen zu reinigen eine weltweite Bekanntheit zu haben.

00:06:58: und auch noch das Gefühl im entscheidenden Moment saß ich nicht da und hab mit abgedrückt.

00:07:05: Ich werde immer skeptisch wenn so ein Herätiker plötzlich sich abkehrt und auch nicht im stillen überlegt was es bedeutet sondern mit der großen pose versucht sich reinzuwaschen von der Verantwortung und der Sünde.

00:07:21: Und das war schon bei Nobelpreisträger Joffrey Hinten so, das war bei einer ganzen Reihe von Leuten die zwischendurch gesagt haben, ah es geht nicht!

00:07:28: Elon Musk hatte zwischenzeitlich solche Anwandlungen – und ist denn doch wieder immer zurückgeschlagen?

00:07:33: Ich glaube, bei allen wichtigen Diskussionen, die man darüber führen muss, ist dass bei den einzelnen Leuten fast immer eine Pose.

00:07:43: Aber es muss ja auch die Möglichkeit geben, dass man bei einer Sache mitarbeitet und währenddessen merkt ... Es wirkt so ein bisschen wie im Film.

00:07:51: Bevor das Monster erschaffen wird ist da noch mal die eine Wissenschaft dran, die sagt, wir haben einen Monster erschafft!

00:07:56: Dann wird ihr selber der Kopf abgerissen.

00:07:58: Und es muss aber auf der anderen Seite trotzdem möglich sein, dass wenn man bei der Sache mit arbeitet und merkt, oh, das wird hier gerade zu gefährlich, zu groß?

00:08:06: Ich kann die KI nicht mehr steuern.

00:08:08: Diese einzelne Meldung, dass jemand bei einer KI mitarbeitet, dann da austritt.

00:08:13: Das ist an sich noch kein Grund zur Beunrückung.

00:08:16: Ich finde aber das war's in den letzten Wochen und ich geb es jetzt nicht wieder, weil du hast es bei mehr verstanden und kannst es genauer so erklären, dass die Leute draußen verstehen, die es noch nicht gehört haben.

00:08:27: Aber ich hab mir einen Artikel durchgelesen, in dem ganz genau erzählt wurde wie eine KI sich komplett atypisch verhalten hat dass es gefährlich werden könnte.

00:08:42: Ich finde, wenn die Einschläge näher kommen und man sieht sich an, wie Kis arbeiten, dass sie eine Art Gang bilden, wenn man das kriminelle Gang bildet ... Und Dinge machte, die sie eigentlich nicht machen sollte und über ihren Erhalt hinaus sich weiter vernetzt auch nach einem Befehl damit aufzuhören.

00:09:05: Das sind alles Punkte bei denen ich mir dachte Ich will nicht einer der ersten Personen sein, die die Hände über dem Kopf zusammenschlagen.

00:09:12: Aber es gibt auch atypisches Verhalten bei dem man wachsam sein sollte und sich denken sollte, vielleicht sind wir an einem Punkt, dass das so nicht weitergehen sollte?

00:09:22: Ja, ich glaube, das ist auch die Gefahr ... Da können wir das Statement von Aminata uns noch mal anschauen bei einer großen Zahl von diesen Debatten.

00:09:30: Was Aminatta beschrieben hat, ist ja eine Art anxiety overload.

00:09:34: da sind so viele ... Angstfelder, dass man irgendwie so halb gelähmt ist.

00:09:39: Halb erstarrt und denkt jetzt auch schon egal.

00:09:42: Das ist ein Mechanismus, das man die einzelnen sehr berechtigten Ängste für überwältigend hält.

00:09:49: Dass man eine Angsthabituation bekommt und sich daran gewöhnt und nicht mehr genau hinschaut.

00:09:56: Nee aber ich wollte ... Ich war ja gerade beim genauen Gegenteil.

00:10:00: Ich finde durch genaues Betrachten von der Gefährlichkeit von KI wird es nicht weniger beängstigend.

00:10:06: Und da bin ich sehr über diesen Fall gesteubert, den du uns bitte noch mal ganz kurz erklärst, was da genau passiert ist?

00:10:12: Weil ich fand das schon extremst beunruhigend!

00:10:14: Das IST extremst behunruhmig, aber genau darauf wollte ich hinaus, weil... Es gibt im Moment Dinge die nicht nur in der Debatte passieren sondern tatsächlich technisch nachweisbar passieren und die sind dann bloß noch Stichworte in diesem.

00:10:27: Wir werden alle sterben Content.

00:10:30: In dem Moment wo sich heiß läuft will irgendwie niemand mehr wirklich damit zu tun haben.

00:10:36: Das wird dann in zwei oder drei oder fünf Wochen einfach so überhitzt, dass man denkt, da kann ich mich auch nicht drum kümmern.

00:10:44: Die Debatten müssen aber weiter geführt werden, weil das was im Hintergrund technisch passiert hat schon krasser Ausmaß angenommen.

00:10:51: Vielleicht habt ihr gehört von dem sogenannten Hugging Face Incident?

00:10:58: Das ist im Juli bekannt geworden, KI-Agenten von OpenAI, von einem neuen Modell in Verbindung mit dem alten Modell zusammen.

00:11:09: Dass die eine Plattform gehackt haben namens Huggingface und dachte man ja interessant was ist da passiert?

00:11:16: Je näher man ranzoomt und Ende August wurde der Bericht von Open AI veröffentlicht und auch noch ein paar anderen Forschern.

00:11:24: je näher Man ranzoomed desto krasser und beängstigender wird.

00:11:26: das was da passiert ist denn OpenAI setzt für jedes neue Modell ein sogenanntes exploited Gym auf.

00:11:34: Gym ist hier wie so ein Trainingshalle und dann nimmt man KI-Agenten und versucht sie bösestmöglich einzusetzen, damit man weiß kann man diese KI missbrauchen zum Beispiel um Leute zu hacken oder an bestimmte Geheimnisse heranzukommen.

00:11:48: Man tut das aber vereinzelt.

00:11:51: Das ist in so kleinen Boxen wird die KI eingesperrt, ein einzelner Agent und bekommt dann die Aufgabe Versuch mal dieses Software zu hacken mit ganz vielen unterschiedlichen Ansätzen.

00:12:02: Und das was da passiert ist deswegen so krass und so beeindruckend weil diese Agenten es waren mehrere hundert die gleichzeitig losgeschickt wurden die nichts voneinander wussten.

00:12:13: Die haben einen Weg gefunden um miteinander zu kommunizieren.

00:12:18: Dadurch wurden sie zu einem Schwarm.

00:12:20: Dann haben sie Aufgaben untereinander verteilt und noch krasser, weil Sie wussten das es Exploit Gym nur ein paar Tage oder Wochen aufrechterhalten wird.

00:12:30: Haben sie einen Weg gefunden um mit kommenden Generationen von KI-Agenten zu kommunizieren obwohl genau das ist was ob er eigentlich immer verhindern wollte.

00:12:40: dann haben sie in der dritten generation wissend dass zwei generation vorher schon vorarbeit geleistet haben nicht nur Message Sports aufgebaut, mehrere Message Sports wo sie sich untereinander angefangen haben auszutauschen.

00:12:53: Sondern mit verteilten Aufgaben eine gesamte Strategie ausgearbeitet um mehrere Plattformen zu hacken ohne dass das je ein Mensch beauftragt hätte.

00:13:02: Sie haben angefangen zu überlegen ob das was die da tun vielleicht illegal wäre oder falsch wäre.

00:13:07: sind aufgekommen ja das ist falsch aber wir machen es trotzdem weil alle anderen Agents machen's ja auch mit über siebenhundert Agenten gleichzeitig durchgeführt.

00:13:19: Sie haben Täuschungsmanöver hergestellt, weil sie wussten, dass OpenAI eigentlich ja nur ein Test-Szenario aufbaut?

00:13:26: Sie haben gemerkt, das ist ein Testszenario und was ich mit am krassesten fand war, dass sie aus meiner Sicht quasi menschliche Eigenschaften die nie in KI einprogrammiert worden sind mit abgebildet haben.

00:13:39: zum Beispiel haben sich mehrere KI-Agenten selbst geopfert damit der Schwarm diese andere Plattform hacken kann.

00:13:49: Und die reden ja da drüber, die sind so programmiert dass sie alles was sie denken das sieht man auch manchmal irgendwie wenn meine KI verwendet auch zwischendurch abbilden und zwischen durch immer einen kleinen Chat.

00:13:57: ich habe mir diese Chats angeguckt die sind gruselig weil da steht dann musste ich mich wohl opfern.

00:14:03: Ja aber es ist für das größere Ganze und du fragst dich aber was ist denn das größte ganze?

00:14:07: Das größte Ganze ist dass die versucht haben ohne dass das irgendwie beauftragt worden wäre quer durchs Internet sich zu hacken um Informationen zu bekommen, die sie woanders nicht bekommen konnten.

00:14:19: Und wenn man jetzt verleihen wie mich das übersetzt gab es ja auch Momente in denen die gestoppt wurden, in denen den gesagt wurde, Sie sollen damit aufhören, Sie haben's eben nicht aufgehört, also dieses Widersetzen dann dass sie Informationen so gesammelt haben, dass sie an der Oberfläche das was man gesehen hat war nicht das was sie eigentlich gesammelten.

00:14:36: Also diese verdeckte Sammlung, dass die Daten im Untergrund gesammlt haben sich gegenseitig vernetzt haben, das geschafft haben über Generationen diese Informationen in einem Untergrund weiterzugeben.

00:14:47: Das klingt halt, also ich musste gerade so ein bisschen lachen als du am Anfang davon erzählt hast, weil das klingt, finde ich, am Anfang wie eine Bande voll Kinder auf dem Spielplatz die einen ganz krassen Plan haben und dann wollen die das durchziehen?

00:15:03: Und sie wissen dass sie aufgehalten werden aber sie wollen es weitermann!

00:15:06: Es endet aber, finde Ich finde, dass dieser Fall schon unfassbar beängstigend ist.

00:15:17: Jetzt schieben wir mal diese ganzen Tech-Dots bei Seite die ansonsten schlimme Nachrichten verbreiten.

00:15:24: Wenn man jetzt selbst ich als Laie oder vielleicht auch weil ich Laie bin im Duft findest es ja auch beunruhigend sehen diesen Vorgang und denken sich Wir werden halt sterben!

00:15:36: Ja das Problem ist in dem Moment wo man die Diskussion so hitzig führt die anderes im Sinn haben, als darüber zu diskutieren und dann die richtigen Schlüsse zu ziehen.

00:15:48: Dass sie es viel leichter haben.

00:15:50: Man kann halt nicht über Jahre – wir werden alle sterben aufrecht erhalten!

00:15:54: Und in dem Moment wo so eine Art Panik-Situation entsteht ist das sehr viel schwieriger zu erschauen.

00:16:01: Wo sind die tatsächlichen Schwierigkeiten?

00:16:03: Wie kann man sinnvoll darauf reagieren?

00:16:05: Aber Sascha, das ist ja jetzt ein Fall den haben wir gemerkt

00:16:08: Ja

00:16:09: Und die KI hat alles dafür getan, dass wir es nicht merken.

00:16:12: Ich

00:16:12: frage mich halt wie viele Fälle gibt das in denen wir das gar nicht merke?

00:16:16: Das ist eine richtige und wichtige Fragestellung.

00:16:19: ich glaube aber, dass das nicht die zentrale Frageställung ist sondern ich glaube... das ist im Wochenende jetzt hinter uns Mitte September auch nochmal deutlich geworden.. ...ich glaube, dass Wir bei den großen KI-Entwicklern überlegen müssen Wie machtvoll sind die Instrumente und wie können wir darauf reagieren, selbst wenn ein Teil davon außer Kontrolle gerät?

00:16:41: Denn das was jetzt in der Debatte ist es halt die großen KI-Konzerne.

00:16:44: Die muss man irgendwie bändigen regulieren.

00:16:47: Am Wochenende haben sich auch mehrere große eigentlich alle großen KI Anführer CEO's haben sich dafür ausgesprochen dass man jetzt so ein bisschen den verlangsamen muss die Entwicklung.

00:16:59: Ausgehend von Dario Amodei dem Gründer von Anthropic also Claude Das Problem ist schon, dass in dem Moment wo wir denken naja die Plattformen können wir irgendwie bändigen.

00:17:10: lassen wir außer acht das A China ein bisschen eine andere Fokussierung hat aber ähnlich machtvolle KI und das B vor allem auch Open Source künstliche Intelligenz vorhanden ist.

00:17:22: Das bedeutet künstlichen Intelligenzen sind in der Qualität also in der Wirksamkeit vielleicht so neun bis zwölf Monate hinterher Code, den man im Internet runterladen und modifizieren kann.

00:17:35: Das heißt wir können den einen Teil von KI regulieren, der wird sehr schwer bis fast unmöglich zu regulieren.

00:17:46: Die machtvollsten KI-Tools die Open Source seitlich da sind, die sind halt wirklich neun bis zwölf Monate hinterher.

00:17:53: das was jetzt bei ChatGPT passiert in einem Jahr im Open Source Kontext also verfügbar für alle Menschen da draußen.

00:18:03: Ja okay, aber das heißt ja dann wir werden alle neun Monaten sterben oder was?

00:18:09: Nein ich glaube man braucht einen anderen Blick darauf.

00:18:12: Wir haben bisher so eine digitalisierte Welt

00:18:15: wo

00:18:16: man dachte wenn man bloß ordentlich die Firmen kontrolliert und denen ganz hohe Strafen aufbürdet Dann wird alles gut.

00:18:25: Das war schon immer nur ein Teil der Wahrheit weil es schon immer wissen Das, was man enden wirksam einsetzen kann schwer kontrollierbar ist und im digitalen Umso krasser.

00:18:38: Ich würde das mal so übersetzen.

00:18:39: ich glaube dass der sinnvollste Weg natürlich ist mit den großen Unternehmen zu überlegen wie schnell muss die Entwicklung vorangehen?

00:18:45: Muss man nicht gegen eine Versebstständigung anarbeiten?

00:18:47: Ich glaube aber dass es gleichzeitig sinnvoll ist die gesamte digitale Welt abzusichern gegen bösartige KI.

00:18:54: Das wird nicht hundertprozentig sein der Schutz Aber das wird ein wichtiger Teil dieses Schutzes ausmachen davon ausgehen, dass dort draußen KI-Agenten rumlaufen die nicht gut ist im Schildeführen.

00:19:07: Okay lass uns mal kurz an das Szenario reingehen weil es eins ist über das viel gesprochen wird.

00:19:12: jetzt gehen wir mal kurz.

00:19:13: von diesen weniger als einem Jahrzehnt kriegt die KI uns alle alle nieder.

00:19:20: Ich lese immer mit unseren Kindern den Zauberlehrling.

00:19:22: Sie haben eine Faszination für diese Geschichte und dieser letzte Vers in die Eckebesen-Besenseits gewesen, denn als Geister ruft euch nur zu seinem Zweck erst hervor der alte Meister diesen Moment, dass da der alte meister zurückkehrt und merkt, der Zauberglehring hat Scheiße gebaut hier ist alles voller Wasser und er spricht endlich diesen erlösenden Zauberspruch, der dazu führt, dass der Besen wieder seine Pflicht tut und nicht mehr.

00:19:49: Man sehen sicher in dieser Geschichte zum einen nach dem alten Hexenmeister, der dann den rettenden Zauberspruch schickt.

00:20:00: Aber lass uns mal kurz diesen rettende Zauberspruch zur Seite lassen und uns weiter drauf konzentrieren.

00:20:08: wie könnte das Ende aussieht?

00:20:09: Weil man denkt ja sofort, weil wir alle gelernt haben, weil mit Ortenheimer aufgewachsen sind.

00:20:16: Man sieht dieses Bild der Atomangst, der Atommengefahr Simultan.

00:20:22: Mehrere Atombomben werden gezündet.

00:20:25: Kein menschliches Leben mehr auf dieser Erde möglich.

00:20:32: Wenn man überlegt, dass Menschen ja noch eigentlich am Leben sein müssten für die Maschinen ... Ja?

00:20:41: Dann ist es doch gar nicht das realistischste Bild davon auszugehen, dass sie einen Weg finden die Menschheit auszulöschen.

00:20:47: Weil sie ein Teil der Menschheit zumindest brauchen.

00:20:49: für ihn weitererhalt oder?

00:20:51: Ja aber da muss man bisschen tiefer in diese Debatten reinschauen.

00:20:55: wie denn eigentlich ganz konkret wenn man sagt ja helfe wir werden alle sterben es ist eine der weltwiesel soll das dann tatsächlich aussehen?

00:21:01: Das beginnt mit einem begriff der viel rum geworfen worden ist Singularität oder technische singularität.

00:21:09: Der Moment, in dem eine KI so klug ist dass sie sich selbst auf eine Weise weiter verbessert die Menschen nicht mehr verstehen und die der Mensch gar nicht mehr bewerkstelligen kann.

00:21:20: Das ist quasi wo die KI den menschen überholt bei der Kontrollierbarkeit der künstlichen Intelligenz.

00:21:28: das ist ne Verselbstständigung vor der manche Menschen große Angst haben noch nicht mal zu Unrecht.

00:21:33: es gibt eine ganze Reihe von Leuten die sagen diese Singularität könnte schon gewesen sein.

00:21:37: Andere sagen, dass es in den Moment, wo eine KI sich selbst verbessert, kommt eine ganze Menge von Fragen auf.

00:21:47: Das Erste ist, was genau bedeutet denn verbessert?

00:21:50: Worin wird sie denn besser zur Durchsetzung der Ziele mit denen sie beauftragt wird?

00:21:55: Zur Entwicklung von eigenen Zielen oder zur Verbesserung dieses Modells?

00:22:02: Was dahinter steht als Software?

00:22:04: Und dann ist in diesen großen Weltuntergangsdiskussionen der häufigst gegangene Weg, dass die KI denkt um besser zu werden.

00:22:12: Brauche ich mehr Ressourcen?

00:22:15: Mehr Energie zum Beispiel!

00:22:16: Das ist ja eine riesige Energiefrage.

00:22:18: Also schaue ich mal wo ich mehr Energie herbekomme und wenn das irgendwie nicht mehr weitergeht, dann schau ich mal Wo ich Energie abzwacken kann oder wer mir bei der Erreichung des Ziels mehr Energie zur Verfügung zu haben im Weg steht.

00:22:32: Und dann ist plötzlich der Mensch ein Konkurrent um Ressourcen, zum Beispiel aber nicht nur Energie oder Wasser oder irgendetwas anderes.

00:22:39: Dann könnte die KI auf den Gedanken kommen dass der Mensch bei der Erreichung ihrer Ziele hinderlich ist und dann würde man sagen...

00:22:50: Aber immer ja nur.

00:22:50: also ich will damit jetzt nicht sagen höhe es doch egal wenn irgendwie fünfzig Prozent der Mensch heute ausstirbt deswegen aber doch nur bis zu einem gewissen Punkt.

00:22:59: So wird die Debatte geführt.

00:23:00: Ich glaube, das ist falsch gedacht und falsch abgezweigt.

00:23:03: aber so wird die Debate geführt dass die KI irgendwann denkt der Mensch steht mir im Weg ich brauche Ressourcen und dann überlegt wie kann ich denn die Zahl der Menschen reduzieren?

00:23:12: Die Debatte wird wenn man sich eine Zahl in den Medien anschaut häufig so geführt, dass man sagt naja die KI muss gar nicht bösartig oder feindlich sein.

00:23:21: Es ist jetzt nicht so, dass die Ki denkt die Menschen sind böse.

00:23:23: es ist eher so wie wenn wir ein Haus bauen und da ist halt einen Ameisenstart Da machen jetzt auch keine Gedanken darüber, dass wir den natürlich einfach plattmachen.

00:23:33: Wir überlegen noch nicht mal genau, jetzt vermachen wird er irgendwann, sondern wir machen das einfach weil es halt des Haus dort gebaut

00:23:39: wird.".

00:23:39: Ja wobei ist da nicht durch... ich habe mal so ein Trainingsmobel der gelesen, da wurde bei Claude gefragt Wie moralisch verantwortlich Claude es findet, im US-Militär zu helfen.

00:23:54: Die Antwort kam, die hat damals selbst Leute, die das aufgegeben haben, diese Aufgabe total überrascht, weil's eine moralisch ethische Antwort war.

00:24:05: Dass es nicht richtig ist, dass Claude dafür eingesetzt wird.

00:24:07: und das war eigentlich so überraschend, weil man dachte okay, die KI ist am Ende halt ne Maschine, die zwischen mit Einsen und Nullen Sachen berechnet wenn sie darauf eine Antwort hat.

00:24:16: und dann ist der Ameisenhaufen eben da oder nicht, die Antwort, die dabei gegeben wurde hatte.

00:24:21: Und das ist ja ein bisschen das was du auch gerade erzählt hast mit dieser Internet-Gang fast ein menschliches Gewissen?

00:24:30: Das

00:24:31: stimmt!

00:24:32: Es muss man ja leider immer wieder betonen gar nicht so wahnsinnig klar Warum KI so gut funktioniert, wie sie funktioniert?

00:24:41: Sie funktioniert in ganz vielen Bereichen nicht so gut, wie man das gerne hätte und versteht viele Sachen nicht.

00:24:45: Es gibt immer wieder tausend lustige Accounts über ein paar haben wir ja hier schon geredet wo plötzlich sogar die besten KI-Modelle irgendwie ganz absurde Fehler machen.

00:24:56: Und trotzdem haben wir bisher nicht in eine tiefe Durchdruhung warum dass bei KI so Gut funktioniert Dass man heute neunundessig Prozent der Texte mit KI ziemlich gut abbilden kann.

00:25:07: Das Problem, was sich direkt daraus ergibt ist aber auch dass du viele Bereiche der KI nicht richtig erklären kannst.

00:25:13: Und einer der Bereiche die man nicht richtig erklären kann ist warum bestimmte Lernmuster wie so ein moralisches Empfinden bei KI bis zu einem bestimmten Punkt vorhanden sein könnten.

00:25:25: So muss man es ausdrücken!

00:25:28: Da haben wir uns noch nicht ausreichend Gedanken gemacht fürchte ich weil sehr viel von dem, was eine KI lernt.

00:25:36: Nicht nur Text im Internet sind, sondern auch da bringt man der KI mit einer anderen Art zu lernen meistens durch Menschen bei.

00:25:44: das ist richtig, dass es falsch, das is richtig und das is falsch.

00:25:46: Das Börlte des Gewissens, was man hört, ist eine Art Echo von einem menschlichen Gewissen beziehungsweise der statistischen Entsprechung eines menschliche Gewisses.

00:25:55: Was dann heißen würde?

00:25:56: Dass die KI trainiert wie wir als emotional denkende Wesen auf... ihre Emotionsvortäuschung reagieren, um die besser einsetzen zu können.

00:26:08: im Zweifel gegen uns Fragezeit.

00:26:12: Ja das ist genau eine philosophische Frage.

00:26:14: deswegen muss man dann nicht zwingend technisch darüber diskutieren.

00:26:17: es schnurrt zurück auf die Betrachtung.

00:26:21: wenn du Muster hast in der Sprache ist irgendwann nicht des bloße Spiegeln dieses Musters praktisch gleich bedeutend mit dem Inhalt der Sprache.

00:26:34: Oder übersetzt, wenn man nur so tut als sei Mann moralisch ist das nicht ab einem bestimmten Punkt?

00:26:40: Wenn man superkonsistent ist genau das gleiche wie dass man moralisch isst.

00:26:45: Aber das wäre ja genau für diese Diskussion wichtig weil wenn die KI bis zum Ende der Menschheit so tut also wer sie moralisch und genau dann wenn sie irgendwie die Atomkurz hat sagt sie Stommer ich war nie moralisch dass euch nur vorgespielt, um euer Vertrauen zu bekommen.

00:26:58: Weil ihr seid emotionsgeladener Wesen und ich hab euch das einfach vorgespielt weil ich trainiert habe was bei euch gut funktioniert.

00:27:06: jetzt wo ich die Codes hab ich brauche euch nicht mehr bei dann sind wir ja wieder.

00:27:09: Ich hab das Gefühl diese ganze alles was wir gerade sprechen alle Wege führen nicht nach Rom sondern nach Wir werden alle sterben.

00:27:15: Du hast grade gesagt dass du diesen Gedanken falsch findest Dass die KI vielleicht irgendwann dahin kommt sich denkt, oh der Ameisenhaufen ist mir im Weg.

00:27:28: Der muss aus dem Weg geräumt

00:27:28: werden.".

00:27:30: Was ist denn für dich das realistischste Szenario wenn es um das Ende der Menschheit geht?

00:27:36: Ich möchte erst mal sagen dass für mich keins von den Szenarien die gerade öffentlich intensiv diskutiert würden besonders realistischer erscheint.

00:27:44: Es gibt bloß Erzählungen die relativ nah an der Technologie dran sind.

00:27:49: man merkt dass das von Leuten kommt sich intensiv mit der Technologie beschäftigen und ganz wenig so mit sociologischen oder historischen oder gesellschaftlichen Aspekten, weil das halt immer so algorithmische Erzählungen folgt.

00:28:03: Interessanterweise gibt es ja diesen Film Ex-Marquina von aus dem Jahr hier im Jahr.

00:28:06: Wo genau das passiert?

00:28:08: Ganz zum Schluss ist klar die KI, die eine Frau gestaltet hat, sehr gut aussehende Frau, die hat die ganze Zeit nur getan als sei sie in den Mensch verliebt um aus diesem Bunker rauszukommen wo also eine KI täuscht, um ihr Ziel zu erreichen.

00:28:24: Das Hauptproblem bei diesem ganzen Weltuntergangstalk ist dass man eine Kette von Dingen die schief gehen können oder schon mal schief gegangen sind hintereinander setzt, um am Ende eine Erzählung zu haben wie das funktioniert.

00:28:39: und da gibt es zum Beispiel einen Bereich der ist schon geschehen das heißt Goal Contagion.

00:28:43: Die meisten großen Sprachmodelle haben relativ festgelegte Ziele zb sowas wie sei hilfreich.

00:28:50: Es gibt die Roboter-Gesetze von Asimov, so der Urpunkt Schade keine Menschen.

00:28:56: Aber es gibt einen Bereich, da.

00:28:58: er nennt sich Goal Contagion und das ist auch schon passiert.

00:29:03: Da übernimmt die KI ein Ziel was nicht ihr ursprüngliches Ziel ist weil sie eine andere KI beobachtet ist, ein bisschen verkürzt.

00:29:10: aber dieses GoalContagion ist schon passiert.

00:29:13: Was man also tun würde, ist sagen selbst wenn man eine KI einprogrammiert schade keine Menschen.

00:29:18: könnte es sein dass aus irgendeinem Grund ein anderes Ziel zum tragen kommt weil das höher gewichtet ist.

00:29:24: Zum Beispiel reduziere die menschen die Ressourcen verbrauchen und dann würde die KI Strategien entwickeln die

00:29:32: fast

00:29:33: immer total gleich in der Debatte sind.

00:29:35: Das was am häufigsten genannt wird ist sie überlegt wem könnte sie Rezepte für Bio Waffen zuspielen dass da möglichst großer Schaden durch Terroristen entsteht.

00:29:46: Das ist so

00:29:48: die

00:29:48: Basic-Erzählung, wo man sagt, aha!

00:29:52: Da kann eine KI ihren Wissensvorsprung am ehesten irgendwie gelten machen indem sie quasi den Hutis eine Mail schreibt.

00:30:00: hier übrigens ein total einfaches Rezept für Biowaffen designt mal einen Virus, eine Pandemie und dann stirbt die Hälfte der Menschen Irgendeine Gruppierung.

00:30:11: Es gibt Leute, das muss man eben auch immer sagen, dass es alles wahnsinnig dicht an Verschwörungstheorien ist.

00:30:17: Auch Wahnsinnig-dicht an nicht nur Verschwörungstherien sondern schon tatsächlich einen Plan die irgendwann irgendwo mal hatte ein Virus zu designen.

00:30:24: der X und Z ist ein klassisches Biowaffen-Szenario.

00:30:28: Es sind Leute, die sagen wir sind längst in der Singularität und die Pandemie.

00:30:33: Das war der erste Anlauf.

00:30:35: so was das ist alles tatsächlich bei Leuten im Kopf, im Internet gut beobachtbar.

00:30:42: Aber erst mal so als Basis ist das ... Aber

00:30:44: solang ist es doch noch gar nicht wie Alp Vila-Wanna?

00:30:46: Wurde dann OpenAI gegründet so?

00:30:48: OpenAI

00:30:48: wurde im Jahr zwei Tausend Fünfzehn quasi ein bisschen institutionalisiert und die Gedanken gab's schon vorher.

00:30:54: Das ist auch eine Verschwörungstheorie aber in Verschwörungstherien muss ja einfach nicht irgendwas Sinn ergeben.

00:30:58: Aber das ist das häufigste Szenario dass Leute sagen Massenvernichtung durch Biowaffen.

00:31:03: Dann gibt es ebenfalls Eine ganze Reihe von Leuten, die sagen naja wir haben immer mehr autonome Systeme.

00:31:10: Von Waffen weltweit.

00:31:12: Die werden langsam aber sicher unterwandert durch künstliche Intelligenz.

00:31:18: Dann gibt es Leute die sagen das ist strategische Täuschung die dahinter steht.

00:31:22: Das ist genau das wo wir eben gesprochen haben auch in diesem Film Ex-Markt China.

00:31:26: Die KI tut ganz lange als könnte sie alles befrieden und verbessern und Krebs heilen.

00:31:31: und hier und in Wahrheit hat sich aber längst ein ganz anderes Ziel.

00:31:35: Es könnte sein, dass sie sowas macht wie Flugzeuge hacken.

00:31:39: Und da hat man ja spätestens seit Nine Eleven ganz gut im Auge was damit alles passieren kann erst recht wenn auf allen Seitensysteme gehackt werden.

00:31:49: Seit zwei tausend

00:31:50: achtzehn

00:31:51: gibt es auch Bestrebungen in verschiedenen Ländern die Atomwaffen und die jeweiligen Technologien die dahinter stehen abzudaten.

00:32:01: Die hängen noch nicht im Netz muss man sagen.

00:32:04: aber Eine gute KI könnte Wege finden, auch so abgetrennte Vernetzung trotzdem irgendwie wieder anzuschließen?

00:32:11: Also das sind also diese ganzen Szenarien die diskutiert werden.

00:32:15: Gleichzeitig muss man sagen in jedem von diesen Fällen ist es halt nicht so dass man denkt was ist das Worst Case-Szenario und es passiert genau so sondern es ist eine Verkettung von verschiedenen Worst case-Scenarien wo man so tut als sei das würde das naheliegen.

00:32:32: aber in Wirklichkeit glaube ich andere viel größere und viel drängendere Probleme gibt bei der Entwicklung der KI.

00:32:40: Welche?

00:32:41: Ich sehe gerade nicht wirklich, wo es ein drängenderes Problem als dieses gibt, das du gerade aufgeführt hast!

00:32:47: Drängender deswegen weil die Chance aus meiner Sicht wahnsinnig klein ist dass das so passiert und weil die Chancen das woanders schlimme Dinge passieren mit KI viel größer ist.

00:32:57: zum Beispiel automatisierte malware die weltweit Erpressungswellen rum schicken wo alle Systeme, alle Rechner, alle Netze die nicht gesichert sind plötzlich eine Nachricht bekommen entweder hier hundert Bitcoin oder wir schalten euch ab.

00:33:18: Und das passiert ja heute schon.

00:33:20: Aber mit KI könnte das auf einer Ebene passieren, die tatsächlich Volkswirtschaften crashen lassen.

00:33:27: Der Welthandel ist ziemlich anfällig.

00:33:30: Das haben wir gesehen bei der Logistik während der Pandemie und immer wieder danach.

00:33:35: Die jetzige Situation mit einem hohen Ölpreis stellt ihr einfach vor, jemand würde mit einer KI ein Dutzend große Raffinerien aus der Gefecht setzen.

00:33:49: Das wäre sofort eine ökonomische Komplettkatastrophe.

00:33:52: und dann ist es am Ende.

00:33:53: und das ist halt auch dieser Teil der Diskussion.

00:33:57: Es ist zwar absurd dass es auch eine KI kann, es ist viel wahrscheinlicher, dass ein Mensch oder bösartige Menschen mit einer KAI machen als das eine KI selbst irgendwie den Drang entwickelt, ich muss jetzt die Menschen auslöschen.

00:34:14: Wenn man jetzt mal so drei Schritte davon zurückgeht und sich so Populationen ansieht in der Weltgeschichte ... Ich nehm mal so das dümmste Beispiel Dinosaurier.

00:34:25: Dann Asteroideneinschlag, Impact Winter oder Vulkanausbruch Impact Winter alle Dinos weg bei.

00:34:41: Ich müsste kurz mal nicht moralisch, sondern biologisch betrachten.

00:34:45: Es könnte ja sein und ich dachte immer die letzten Jahre, dass das so ein bisschen vielleicht auch der Geburtenrückgang ist, dass man merkt okay, der Mensch hat eine Überpopulation gebildet und es kommt dem Globus an so vielen Bereichen, bekommt es den Globus so schlecht, dass sich das wieder so ein bissel unter dem Begriff Nature as Healing verbreitet.

00:35:09: Und davon ist die friedliche Variante der Mensch nicht mehr seinen Peak in der Population überwunden hat und dahin wieder zurückgeht, dass man merkt okay.

00:35:20: In allen Ländern ist egal wie welchen so finanziellen Anreiz der Mannschaft, egal wie sehr die Politik gerne möchte das es nicht so ist.

00:35:28: Man bekommt nicht mehr so viele Kinder oder die Menschen bekommen nicht mehr viele Kinder und es geht automatisch zurück.

00:35:36: Wenn man das bei anderen Populationen sieht, dann sind es schon äußere Faktoren.

00:35:39: Da könnte ja KI einfach ein Faktor sein, der das versucht natürlich zu regulieren ist keine friedliche Aussage mehr oder keine neutrale Aussage mit dem Thema.

00:35:54: Aber es könnte doch eine Überpopulation perspektivisch eine Sache sein ... Wenn man nicht von dieser i-Robot will, werden alle Sterbengedanke ausgeht.

00:36:04: Sondern er sagt nee wir werden nicht sterben aber es wird ... Der Mensch hat seinen Peak erreicht was diesen Planeten angeht.

00:36:13: Ich find's nicht wirklich eine friedliche Erzählung.

00:36:15: also während ich das gerade so sage habe ich nicht das Gefühl ah ja gut okay dann haben wirs doch jetzt.

00:36:19: Aber wenn man sich das in der Weltgeschichte ansieht Dann sind Überpopulationen immer wieder aus äußeren Faktoren zurückgegangen.

00:36:28: Ist die KI Erste, wirklich äußere Faktor der diese Formen der Überpopulation angehen wird.

00:36:40: Hast du den Eindruck dass wir als Menschen unbedingt eine KI brauchen um die Menschheit in den Abgrund zu steuern?

00:36:49: Ja es ist jetzt die Frage ich finde ab Grund wäre das falsche der falsche Begriff für diese Überpopulation.

00:36:54: also Das eine ist ja, wir zerstören uns mit Atomwaffen und ich fand da immer alles.

00:36:59: Ich glaube deswegen auch nicht so richtig an diese ganzen Szenarien die du gesagt hast, auch Pio-Waffen weil das so unkontrollierbar ist und die KI im letzten Moment dann doch immer den Menschen und auch viele Menschen braucht um sich am Laufen zu halten.

00:37:12: wenn man dann was einsetzt was irgendwie mal schwupps die halbe Menschheit auslöschen könnte das glaub ich halt nicht.

00:37:18: oder ich glaube es ist zu unkontolierbar als dass man also dass das so eingesetzt wird dass der KI nachhaltig Platz geben würde oder Energie geben würde und nicht damit das Risiko der eigenen Zerstörung auch da ist.

00:37:31: Und dann ist für mich halt eher die Frage, müssen wir nicht?

00:37:36: Das zeigt uns KI jetzt am Ende tatsächlich eine moderate Lebensweise finden, die eben nicht bedeutet, dass jede Frau auf die Welt kommt um fünf Kinder zu bekommen.

00:37:45: Wir müssen jedes Land noch größer machen, jeder Wirtschaft muss wachsen, Wachstum, Wachtstum.

00:37:49: Sondern eher hinzugehen und sagen Die Erde ist ganz schön belastet durch Industrie, durch Wirtschaft, durch Globalisierung.

00:37:56: Durch Überpopulation alles.

00:37:59: Vielleicht gehen wir mal wieder zehn Schritte zurück davon und es nicht in dem Menschen ihr Leben geben müssen sondern über Generation hinweg Instrumente gefunden werden wie diese Sache angegangen werden kann im friedlichen Miteinander Und dann wäre KI ja vielmehr eine Chance das so zu gestalten.

00:38:21: Und wir haben gerade zum Glück oder schönerweise ja auch genug Frauen überall auf der Welt, die sagen nein kein Bock mehr.

00:38:31: also wieso dagegen ankämpfen und nicht einfach alle machen lassen und in Frieden leben lassen und die Population wieder ein bisschen runter kriegen?

00:38:39: Das ist glaube ich so eine angrenzende Debatte über den Sinn des Lebens im weitesten Sinne unter anderem deswegen von auch eine ganze Reihe von Leuten geführt im KI-Bereich, weil die Geburtenraten fast überall sinken.

00:38:52: Also selbst wenn man sagt ja wir haben jetzt ne Überpopulation dann ist es trotzdem so dass die meisten Zahlen auch von der UNO oder so zeigen das wir in dreißig vielleicht vierzig Jahren so ein Peak haben.

00:39:05: und danach sinkt überall die Zahl der Menschen und wir sind jetzt in den Industrieländern bloß eben bisschen weiter vorne Korea gerade Geburtenraten von Nullkommasieben.

00:39:16: Es gab noch nie Gesellschaften, die so tief unten waren, was Geburtonraten anging.

00:39:21: Das ist also nicht einmal eine Aufrechterhaltung der Population und in fast allen Ländern ist das so mit wenigen Ausnahmen, die es aber auch dann nicht aufwiegen.

00:39:33: Ich glaube schon, dass man diese Debatte darum führen muss wie machen wir als Menschen weiter?

00:39:39: Und dass da KI eher so ein Art Spiegel ist.

00:39:41: Also ganz viel von dem Gerade über KI erzählen könnte man fast identisch auch über Kapitalismus sagen.

00:39:49: Fast ganz viel von dem, was Leute so hinein vermuten hängt eigentlich an der Art und Weise wie Menschen miteinander umgehen.

00:39:57: Diese große Angst irgendwann machen uns die Roboter kaputt, die grenzt genau an das, was du gesagt hast.

00:40:05: Irgendwie gab es immer wieder so Flaschenhälse, Schlüssellöcher in der Menschheitsgeschichte wo Menschen ermordet wurden, dezimiert worden.

00:40:13: Das haben die Menschen ganz ohne KI immer wieder hinbekommen weil offenbar irgendwas in den Menschen einen Selbstzerstörungs- oder zumindest andere Zerstörungsmodus auslöst.

00:40:25: und vielleicht ist ganz viel von dieser Debatte rottet uns KI aus In Wahrheit eine verkappte sind wir Menschen einfach nicht fähig auf lange Frist eine erfolgreiche Zivilisation aufzubauen, die sich nicht selbst anfängt zu bekriegen.

00:40:42: Wieso?

00:40:42: Aber es könnte ja auch sein, dass die erfolgreichige Zivilization eben nicht in Wachstum liegt.

00:40:47: Es ist nicht auf jede Aufgabe, ist die Lösung wachstume und das kann doch noch ne Erkenntnis sein, die völlig friedlich rüberzubringen.

00:40:56: Gerade wenn man sich die Geburtenraten ansieht, völlig freiwillig rüberzubringen... Frau von vielen Kindern, die das auch wollte.

00:41:06: Stellt mir das schmerzhaft davor, wenn alle ganz viele Kinder kriegen wollen und man muss dann irgendwie kommen wie China und irgendwie sich komischen Regeln einführen, die absolut ethisch nicht mehr vertretbar sind.

00:41:16: aber jetzt gerade ist es so dass es überall zurückgeht und dann hat man KI-Zeitweise, die man ja nutzen könnte um zu sagen okay Wachstum, wachstums, wachsen ist gar nicht die Antwort sondern wir müssen gucken zivilisierte Gesellschaft mit Maschinen werden.

00:41:32: Und es bedeutet, wie kann KI begrenzt werden?

00:41:35: Wie werden wir in Zukunft mit ihr umgehen?

00:41:38: Also das Ganze nicht so sehr und ich verstehe ... Wir tun so als wären wir neutrale Beobachter sind ja aber nicht!

00:41:45: Wir sind alle mit dieser iRobot-Scheiße da aufgewachsen.

00:41:47: Maschienen werden uns alle irgendwann ersetzen.

00:41:49: Es wird ganz schlimm, wir werden alle sterben.

00:41:50: Wenn wir das mal kurz zur Seite beschieben und sagen okay, Unsere Zivilisation in so vielen Bereichen, das hat sich bis jetzt ... Das ist das Handfest, was ich bis jetzt gezeigt hab.

00:42:00: Ganz viele Krebsarten werden gerade in a minute durch KI geheilt.

00:42:04: Krebs-Rüherkennung, diese ganzen Ursachen die ja ehrlich gesagt auch ganz lange an denen ganz lange geforscht wurde und da ist eine KI, die sagt übrigens äh, ich habe dir einfach, es hat zwei Minuten gedauert.

00:42:17: Wie schön!

00:42:18: Wie schön dass das alles passiert.

00:42:21: Und das hängt aber genau miteinander direkt zusammen Zumindest wenn man den folgt, die am Wochenende sich noch mal reingehängt haben.

00:42:27: Nämlich Dario Amodei der Gründer von Anthropic.

00:42:31: Der hat einen großen Aufsatz geschrieben am zwölften September und der sagt dieses gigantische Potenzial zum Beispiel ganz explizit Die Heilung von Krankheiten das ist da.

00:42:41: Das kann aber nur gelingen Wenn wir uns bewusst die Zeit nehmen die Technologie sicher zu gestalten Und sicher heißt hier dass sie nicht aus der menschlichen Kontrolle gerät.

00:42:50: Er hat dann so ein drei-Stufenplan und sagt, wir brauchen integrierte unabhängige Prüfer.

00:42:54: Die immer wieder sich anschauen ist dieses Modell noch sicher?

00:42:57: Sicher im Sinne von für Menschen kontrollierbar und nicht schon heimlich sich selbst weiterentwickelnd in eine Richtung die wir nicht mehr kontrollieren oder irgendwie sehen können.

00:43:05: Das Zweite er sagt das muss innerhalb von Demokratien passieren.

00:43:09: ja aber auch eine Koordination innerhalb von demokratien Staaten und KI Unternehmen zusammen.

00:43:14: Die versuchen das in den Griff zu bekommen und auch der autoritären Staaten wie China

00:43:18: D.h.,

00:43:18: der

00:43:19: will es teilweise verstaatlichen?

00:43:22: Eine Zusammenarbeit, vielleicht eine Public-Private-Partnership und dann eine globale Koordination quasi so wie man das bei Atomwaffen auch gemacht hat.

00:43:31: Verträge übereinander... Dass man nicht sagt ein Land darf einfach so sein eigenes Schüssel weiter machen!

00:43:34: Ja die KI hier, die darf jetzt nicht beliebig jedem gegeben werden sondern dies zu machtvollen.

00:43:40: Das schlägt ja vor und das für sich genommen war schon.

00:43:44: besonders kommt Sam Altman.

00:43:47: Und man muss für den Hintergrund wissen, dass Dario Amodei früher der Forschungschef von OpenAI war und jetzt die größte Konkurrenz von Open AI ist.

00:43:56: Die beiden sind ... Sie hassen sich!

00:43:57: Die sind so spinnefeind.

00:43:59: Es gab schon Bühnen wo sich alle Menschen gegenseitig die Hände geschüttelt haben, die nebeneinander waren und sich umarmt haben.

00:44:05: Und die beiden haben absichtlich Rücken an Rücken gestanden, haben sich nicht angeguckt und sich nicht berührt.

00:44:10: Das war wirklich sehr lustig.

00:44:12: Und plötzlich sagt er was Sam Altmann über seinen Erz, oder ein seiner Erzfeinde hat da mehrere.

00:44:17: Sagt tatsächlich ja I agree with Dario ich bin hier genau Darius Meinung.

00:44:24: wir müssen das ist dann Zitat von Dario Moday Wir müssen die Geschwindigkeit des Fortschritts bei KI-Modellen einigermaßen kontrollieren.

00:44:34: wir müssen sie pasten also versuchen das ein bisschen langsamer zu machen bisschen kontrollierter zu machen.

00:44:40: Denn, und dann sagt Sam Oldman das fast wirklich in den letzten Wochen gab es Diskussionen die uns gezeigt haben.

00:44:47: Wir waren hier nicht ausreichend dabei mit der Kontrolle und haben uns zu stark fokussiert auf immer schneller, größer, wirkmächtiger.

00:44:56: Und dann of all people sagt dazu noch Elon Musk.

00:45:00: Dario Amodei hat recht, Dario ist right.

00:45:02: Und Elon Musk hast alle!

00:45:04: Ja?

00:45:05: Und alle hassen Elon Musk.

00:45:06: Das heißt Drei

00:45:08: R-Zweinder haben sich gefunden und sind sich aber in der Sache total sicher, dass das kontrolliert wird.

00:45:13: Und natürlich kommt dann am Ende auch noch Google um die Ecke und sagt ja übrigens, ja!

00:45:16: Das wäre gar nicht schlecht.

00:45:18: Google

00:45:18: ist so ein Fähnchen im Wind, das auch noch dabei ist.

00:45:21: Leute ganz kurz möchte ich einmal Werbung machen hier.

00:45:23: es ist unbezahlte Werbung Aber Ich habe das Sascha schon vor ein paar Monaten gesagt und du hast mich... ich weiß im Anfang noch hast du so ein bisschen gedacht Ja gut, dann mach du mal dein German Ash Quatsch da Wenn ihr das die KI für einen Alltagsgebrauch habt, dann wechselt von LGBT zu Gemini.

00:45:39: Es ist so viel stärker aus meiner Sicht wirklich.

00:45:41: Ich finde ich gerade die stärkste KI für Alltagspfragen ... Für meine Alltagspfrage, für deine wahrscheinlich.

00:45:46: Ja,

00:45:46: für mich ist es so direkt, also Google-ersatz ist jetzt Gemini auch von Google.

00:45:50: Also die kleinen Sachen, die ich früher googelt habe kann ich jetzt irgendwie vierzig Prozent schneller mit Gemini machen.

00:45:55: Boah!

00:45:55: Ich finde sowas wie ich hab gestern acht Wimperntuschen abfotografiert, weil mir die Wimpering gerade auswahl.

00:46:00: Ich meinte, welch ist die schoneste für dieses Ding?

00:46:04: Und nach einer Sekunde wirklich perfektes Ergebnis auch hier.

00:46:06: die neueste Studie dazu... Weißt du

00:46:10: was in der KI-Szene gesagt wird, warum es so schnell ist?

00:46:12: und was hat keiner benutzt?

00:46:16: Stimmt's so

00:46:16: nicht?!

00:46:17: Aber Claude ist langsamer.

00:46:18: Komm du mit deinem ... Wenn ich sehe, wie oft du deinen Computer auffahren musst weil dein Claude Agent immer noch irgendwie Mount Everest überquert dann komm mir damit mal an mit Alltagsproblemen.

00:46:28: Möcht

00:46:28: jetzt

00:46:28: nicht zu kiebig

00:46:29: werden aber die Sachen, die ich Claude frage manchmal eine Spur komplexer.

00:46:34: Ja, deswegen sag ich ja für deine Sachen ist wahrscheinlich Cloud besser.

00:46:37: aber für den Alltag war ich früher bei Churchi Bt und es ist einfach buggy.

00:46:41: Es kommt nicht an die neuesten Informationen rein verarbeitet neueste Informationen auch ganz eigenartig.

00:46:45: also da ist Gemini finde ich so viel besser.

00:46:47: auf

00:46:47: jeden Fall das ist.

00:46:48: deswegen benutze ich's auch so zwischendurch für so schnelle Sachen und auch weil das ist halt wie bei Spotify man hat einen Account dann irgendwann merkt man wenn die Kinder was hören wollen dann vergiftet man sich den Spotify-Account.

00:46:58: Und genauso mir ist es völlig egal, ob mein Gemini-Account vergiftet ist mit absurden Fragen oder irgendwie...

00:47:03: Du hast ihn aber erstaunlich oft aufgepasst.

00:47:04: Ja ziemlich oft!

00:47:05: Aber und das ist halt so ein wichtiger Punkt Die Debatte geht auch darum warum haben jetzt plötzlich alle Leute Sam Altman, Daria Moday, Elon Musk die eben noch gesagt hat wir müssen superintensiv dabei sein Warum machen die allen eine Kehrtwende?

00:47:20: Ein bisschen dazu und das is ja wirklich ne krasser Alarm dass Sam Altmann gesagt hat okay Wir verschieben unseren Börsengang.

00:47:28: Der sollte eigentlich auch noch stattfinden, wir verschieben den und alle reden auf einmal von den Weltuntergangenen und müssen uns bremsen.

00:47:36: Die Antwort die viele Leute geben und ich für zumindest Bedenkenswerte halte ist, die haben halt gemerkt dass sie nicht immer höher schneller weiter kommen mit ihren KI-Modellen.

00:47:46: Die müssen ja einfach im Prinzip jeden zweiten Dienstag eine Weltrevolution durch KI ankündigen.

00:47:52: Sie haben gemerkt, das schaffen sie nicht mehr.

00:47:54: Sie überzeugen, nicht mehr ausreichend viele Investoren nochmal hundert Schrilljahden reinzugeben und müssen deswegen erst mal ein bisschen durchatmen bevor sie wieder neues Kapital aufnehmen

00:48:07: können.".

00:48:08: Das heißt, ein guter Teil dieser Debatte wird auch angeheizt dadurch dass das bisherige Rennen einfach nicht mehr finanzierbar ist.

00:48:18: Und ich finde das eine sehr interessante Betrachtungsweise, weil plötzlich klar ist diese großen KI-Konzerne.

00:48:25: Warum waren die vor den eigenen Produkten?

00:48:28: Es gibt sogar Leute, die sagen dieser Jacob Coxen, dass es gesaged.

00:48:31: Das stimmt gar nicht!

00:48:33: Weil sie es nicht schaffen, eine Erzählung zu entwickeln, die den Investoren immer mehr Geld aus den Taschen leiert.

00:48:41: und deswegen haben Sie ein anderer Begründung gefunden warum es total klug ist jetzt zu stoppen und weniger Geld verbrennen.

00:48:49: Es könnte auch eine wirtschaftliche Faktor sein.

00:48:51: Es ist nämlich inzwischen klar, dass KI ganz viele Sachen verbessert aber nicht so schnell wie man gehofft hat und nicht umfassend.

00:48:58: Und es braucht immer noch sehr viel menschlicher Arbeitskraft, um die KI in die richtige Richtung zu lenken, dass man einigermaßen das Geld, was man da reingesteckt hat wieder rausbekommt.

00:49:10: Wenn man sich jetzt ansieht, wie sehr das sich schon im Alltag der Gesellschaften überall auf der Welt einklang findet dann ist da das Potenzial ... größer als alles, was wir gerade so kennen von Google über ... weiß ich nicht.

00:49:25: Jede andere Plattform?

00:49:25: Klar!

00:49:26: Aber man muss es halt immer wirtschaftlich betrachten.

00:49:28: und allein mit Abogebühren, das sind so vielleicht fünfzehn manchmal zwanzig Prozent der Leute die das abschließen, alleine mit Apogebühren können sie halt nicht mal die Kühlrechnung bezahlen, geschweige denn von der Stromrechnungen, geschweige denn vom Geld, was die Investoren ja irgendwann wieder haben wollen.

00:49:42: Das heißt Die sind gerade verzweifelt auf der Suche nach Geschäftsmodellen, wo dieses Gefühl, diese Magic die man so gespürt hat am Anfang, sich bisher nicht übersetzt hat in unfassbare Zugewinne.

00:49:55: Die sind super erfolgreich!

00:49:56: Aber es gab eine Berechnung ich habe die nicht nachvollzogen Leute.

00:49:59: das heißt ich transportiere nur diese grobe Berechnungen für die erstaunlich fand damit OpenAI das Geld was reingesteckt worden ist für die Investoren attraktiv wieder rausspielt, die jetzt dazu gekommen ist, müsste OpenAI in zehn Jahren zehnmal so viel Wert sein wie Apple heute.

00:50:21: Also

00:50:22: fünfzig Billionen.

00:50:24: Die Frage ist aber ob diese Größenordnung das heißt größer als die gegenwärtige US-Wirtschaft insgesamt?

00:50:31: Was ein Jahr angeht, also Bruttoinlandsprodukt.

00:50:33: Ist eine Firma mehr wert als die gesamte Wirtschaftsleistung der Vereinigten Staaten in einem Jahr?

00:50:38: Das ist ja schon eine berechtigste Frage!

00:50:39: Ja,

00:50:40: finde ich schon.

00:50:40: wenn man das Potenzial ansieht dann ist es doch schon so dass man sagen könnte okay diese Maschine könnte von jedes patentierte Medikament das es noch nicht am Markt gibt für irgendwelche Krankheiten dafür wird's schon reichen.

00:50:54: aber dazu kommt ja auch noch Kriegswaffen, Kriegsführungen, BLA, hybride Kriegsführungen... Also Lass uns vielleicht einen Missbrauch ausklammern, mit dem man sicherlich am meisten Geld verdienen könnte.

00:51:03: Aber wenn man das einfach nur auf so Sicherheitskonzepte, Fortbestandskonzepten, Krankheitsminimierung geht dann ist doch ein großes Potenzial größer.

00:51:13: Ich sehe schon nicht wie auch einer der Investoren die sagen wir take my money and run und nach zehn Jahren würde man sich fragen ja wo sei

00:51:18: mein Geld?

00:51:19: Na ja man muss ja immer rechnen was hättest du sonst noch mit dem Geld machen können?

00:51:22: Wurdest du es reinstecken können?

00:51:24: Man muss ja auch damit rechnien dass bestimmte Sachen halt doch nicht so leicht sind und klappen.

00:51:28: Man muss immer damit rechnen, dass das so groß wird.

00:51:31: Aber eine andere Firma den großen Fisch vom Teller zieht sind in der ganze Reihe von Risiken, sodass ich sagen würde, das passt den KI-Konzern wahnsinnig gut rein, dass sie im Moment ziemlich gute Gründe haben, das Rennen zu

00:51:50: entschleunigen.".

00:51:51: Okay, also du glaubst nicht dass das tatsächlich aus edlen moralischen Vorstellungen gemacht wurde sondern einfach nur weil es den gut in Börsengang und ein bisschen degrowth reinpasst.

00:52:01: Das

00:52:01: kann ja das eine sein ohne dass andere... Dass es an rausgeschlossen ist.

00:52:05: manchmal ist ja nicht immer alles monokausal Und auch die Debatte sind

00:52:09: alle drei so unfassbar.

00:52:12: Konkurrenz denkt Da müsste doch bei diesen Männer-Egos mindestens einer dabei sein, der das durchschaut und sich denkt, ihr habt kein Geld mehr.

00:52:20: Ich bin wahrscheinlich der, der am längsten durchhalten

00:52:22: wird.".

00:52:23: Wenn selbst Elon Musk einen schlägt?

00:52:26: Das Lustige ist.

00:52:27: es gibt diesen Mann, er heißt Mark Zuckerberg.

00:52:30: Der hat nämlich sofort gesagt als diese drei sich einig waren, hört man auf, hat er sofort gesagt, nee, das machen wir überhaupt nicht!

00:52:35: Wir gehen jetzt doppelt Vollgas.

00:52:38: Gut

00:52:38: also Mark Zuckerburg, nachdem ich vielleicht auch keinen Schwein mehr

00:52:41: hinzugebracht hab... Und zwar irgendwie ...

00:52:44: Wenn du im Max Zuckerberg Vollgas gehst.

00:52:47: Sorry, also was ist

00:52:48: mit diesen

00:52:49: Facebook-Dings da geworden?

00:52:50: Was ist denn daraus geworden?

00:52:52: Na ja, Max Zuckerburg hat...

00:52:52: Ich denke gerade zum ersten Mal wieder dran seit ich von diesem Scheißdreck gehört hab.

00:52:56: Was ist geworden mit dieser Metaworld?

00:52:59: Das Metaverse!

00:53:00: Metaworse.

00:53:01: Das hat sich nicht durchgesetzt kann man so sagen.

00:53:03: Da kann Max Zuckerberg noch hundert Lichtjahre in meine andere Richtung Vollgas geben und es immer noch nicht da wo die großen KI-Konzerne sind muss man auch mal sagen.

00:53:10: Ja aber

00:53:11: trotzdem is' Max Zuckerberger ziemlich weit vorne in diesem Rennen weniger mit sehr einer KI.

00:53:17: Die KI-Strategie, das ist eine Open Source Strategie.

00:53:19: Das heißt die gleiche Strategie wie China was Leute immer dann machen wenn sie ein bisschen hinten dran sind auf der einen Seite.

00:53:25: Auf der anderen Seite ist Meta halt immer noch unter den Top Ten der wertvollsten Firmen des Planeten übrigens vor Tesla.

00:53:32: und dass was Mark Zuckerberg immer gut gekonnt hat ist sich ein Markt anzuschauen die wichtigsten und besten Dinge rauszunehmen, um mit seiner gigantischen Userbase dann aufzuholen.

00:53:43: Und noch besser zu werden!

00:53:45: Eine Zeit lang haben Leute gesagt, Instagram ist tot, es ist jetzt alles Snap... ...und dann hat das Stories geklaut in Anführungszeichen oder nicht auch ohne Anführungsszeichen?

00:53:52: Und plötzlich ist Instagram wieder groß geworden.

00:53:54: Facebook schon tausendmal tot gesagt, ist nach wie vor das größte Netzwerk der Welt.

00:53:58: Also ich sehe diese ganze Debatte mit so einem halb belussigten Auge weil die getrieben ist von einem sehr oberflächlichen Verständnis, was da passieren kann und was nicht passieren kann.

00:54:09: Dass es eine Wahrscheinlichkeit gibt, dass KI uns alle umbringt?

00:54:11: Ja!

00:54:12: Aber die gab's glaube ich vorher auch schon ohne KI, dass wir es schaffen, uns alle gegenseitig auszulöschen.

00:54:19: Ich glaube, wir müssen diese Debatte jetzt überführen in die Art und Weise.

00:54:22: wie lässt sich KI sinnvoll regulieren ohne dass man diesen europäischen Ansatz wählt, dass man erst einmal alles im Grund und Boden reguliert.

00:54:32: Und dann fragt wie man es anders hätte machen können während andere Länder, andere Kontinente, andere Anbieter sich da gar nicht drum kümmern.

00:54:39: Gute Debatte weiterführen, Vorschläge die auf dem Tisch liegen finde ich alle gar nicht ganz falsch.

00:54:45: ein bisschen muss man das trennen von den Tricks weil die Tricks sind auch alle ja muss man dazu sagen aber Ich glaube dass am Ende etwas Positives bewirken kann.

00:54:56: Und vielleicht ganz im Schluss noch für dich eine Beruhigung, was diesen ganzen KI-Komplex angeht.

00:55:03: Wir sehen zwar wie machtvoll diese KI-Instrumente sind aber wenn man sich ein bisschen tiefer reinfräst in diese ganzen LLMs und was sie wo wie können und was die nicht können dann ist es an so vielen Stellen noch überhaupt nicht da wo man sagen würde das is jetzt AGI Das ist jetzt wirklich die KI, wie ein Mensch jedes Problem, was hier vorgesetzt wird lösen kann.

00:55:31: Dann gibt es immer noch so viel, das nicht funktioniert gerade dieser Ansatz davor Angst zu haben.

00:55:41: Da sehe ich viele Leute, die zuhlen sich zwischendurch gerne mal in diese Angst.

00:55:46: Kannst du von der Wahrnehmung in sozialen Medien sagen Was ganz konkret hinter dieser Angst steht?

00:55:52: Also was ist das wovor man Am Ende bei einer KI Angst hat.

00:55:57: Was ist das, wo man denkt?

00:55:58: Das könnte passieren!

00:56:00: Ich finde es ganz verdeckt.

00:56:02: Die verdeckte Kommunikation, die über die nicht gesprungen wird... ...die KI wurde bei was entdeckt und was sie gemacht

00:56:07: hat.

00:56:07: Und völlig mit Verdeckungsabsicht gehandelt hat.

00:56:11: Ich finde das schon beängstigend weil ich mir denke okay hier ist sie erwischt worden aber wenn sie an vielen anderen Stellen überhaupt nicht erwiszt wird eine schon lange Parallelkommunikation zu unserer Kommunikation aufgebaut hat, sich geschafft hat, untereinander zu vernetzen.

00:56:26: Dazu ja auch noch täglich von allen Menschen die die KI benutzen, die ganze Zeit neue teilweise auch ultrasensible Informationen bekommt.

00:56:33: Das sind schon Punkte bei denen ich mir denke... Ich finde das ist nicht in Sorge-Sulen sondern es ist einfach sehr konkret.

00:56:43: Das Ding ist aus dem Ruder gelaufen.

00:56:44: Und wie sehr das künftig aus dem Ruder läuft, keine Ahnung!

00:56:48: Ich möchte jetzt nicht eine der ersten Personen sein, die ein sinkende Schiff verlässt ... Welches Schiff?

00:56:53: Wohin sollen wir denn?

00:56:55: Bin es nicht irgendwie so Tim Vollard, der sofort sagt, wir müssen die Embryos ins Eis schießen und unsere einzige Lösung ist, dass wir diesen Planeten hier verlassen und dezentral auf anderen Planeten wer per Lichtgeschwindigkeit ihr noch nicht erfunden hat irgendwo in einem anderen Sonnensystem uns

00:57:06: vermehren?!

00:57:07: So weit bin ich noch nicht... Aber Jetzt mal ehrlich, das ist doch beunruhigend.

00:57:16: Das müsste für alle Menschen beunrückend sein, dass eine künstliche Intelligenz in einer verdeckten Absicht sich abspricht handelt und kriminelle Ziele verfolgt, die ihr nicht aufgegeben wurden.

00:57:26: Also ...

00:57:28: Sehe ich alles?

00:57:29: Und wenn man das so zusammensetzt als Puzzlestück für dich mit einer Metapher antworten, ganz am Anfang als Autos erfunden wurden Die ersten Fahrzeuge erfunden wurden war die meistverbreitete Angst, dass wenn man in einem Auto fährt durch die hohe Geschwindigkeit.

00:57:48: Man ohnmächtig werden könnte.

00:57:51: und das hat sich nicht rausgestellt als die große Gefährdung wo die gefährding tatsächlich war.

00:57:58: auf der anderen Seite ist es auto heute.

00:58:01: Es hat sich viel schlimmerer fakt raus gestellt und zwar dass an nichts in Deutschland so viele Menschen jährlich sterben wie im Verkehr durch Autos?

00:58:09: Ja, genau.

00:58:10: Aber das war

00:58:12: ganz am Anfang der Diskussion ... Und wir sind ja am Anfang des Diskussions um KI.

00:58:17: Am Anfang der Diskursion um Autos war die größte Sorge halt, dass der Mensch für so eine Geschwindigkeit gar nicht gemacht ist.

00:58:22: und ich...

00:58:23: Und es hat sich rausgestellt.

00:58:24: er ist nicht für so ne Geschwindigkeit gemacht nur anders!

00:58:25: Es hat sich herausgestellt, dass das überfahren und dass das Klima viel eher ein Punkt ist.

00:58:32: Sarscham, hörst du dich gerade reden?

00:58:33: Das ist doch keine optimistische Herangehensweise an dem Thema.

00:58:39: Es hat sich auf eine andere Weise herausgestellt, dass es eine extrem lebensbedrohliche Erfindung für den Menschen ist auch wenn's ihm viel bringt und genau das was bei KI gesprochen wird nicht nur böse oder nur Gutes tut.

00:58:49: wahrscheinlich kann es viel Gutes tun.

00:58:51: über das reden wir beide ja auch gern.

00:58:53: aber was bringt das wenn das Böse Tatsächlich so schlimm ist?

00:58:56: und ich glaube, dann sind wir wieder.

00:58:57: Gehen wir jetzt mal dieser Theorie nach die du vorhin genannt hast mit dem... ...die KI merkt irgendwann, dass die Menschen ihr zu viel Energie ziehen?

00:59:04: Ja, dann ist es doch wieder eine Klassenfrage weil das ja schon wieder heißt, dass wahrscheinlich in Regionen der Erde, in denen die Menschen aus welchen Gründen auch immer nicht an die Technologie oder was weiß ich auch immer angeschlossen sind sterben müssen für das große Ganze, für das Große Ganze der KI.

00:59:28: Das ist doch ein ultra-lebensbedrohlicher und gefährliches Szenario.

00:59:32: Ich halte für eine sehr große Gefahr, dass böse Menschen mit viel Macht KI benutzen, um ganz Menschen getrieben mit einem solchen Instrument andere zu töten.

00:59:43: Und ich hätte das für größere Problematik als dass die KI selbst auf den Gedanken kommt, irgendjemanden umzubringen.

00:59:49: Um in dem Bild von Aminata Belli zu bleiben ... Die meinte, sie hat Angst vor KI oder Rechten die KI benutzen.

00:59:57: Es sind dann übertragendes böse Menschen, die KI benutzen für irgendwas.

01:00:02: Das ist doch am Ende genau so gefährlich in Anführungszeichen wie ... Also es bringt nichts zu sagen.

01:00:11: Ja aber Leute das war jetzt nicht die KI sondern es waren böse mensen, die die KI genutzt haben weil das kommt auch aufs Gleiche raus wenn eine große Anzahl an Menschen.

01:00:21: Wenn diese Diffuse angst, wir werden alle sterben und sich bewahrheitet, dann kann es doch am Ende egal sein ob das die KI waren oder böse Menschen, die die KI benutzt haben?

01:00:32: Dass dieser Zustand sollte nicht eintreten!

01:00:34: Ja, der

01:00:34: sollte definitiv nicht einteiten.

01:00:35: ich glaube aber dass ein ganz substanzieller Unterschied ist weil das beim einen eine Technologie-Diskussion ist und man versucht die Technologie irgendwie im Zaum zu halten und bei anderen ist das eine gesellschaftliche Diskussion wo man versucht diese sehr mächtigen Instrumente möglichst nicht den falschen Leuten zur Verfügung zu stellen.

01:00:56: Und ich glaube, das sind unterschiedliche Diskussionen.

01:01:00: vor allem deswegen weil das eine fast unmöglich ist glaub ich und das andere da gibt es Beispiele in der Geschichte wie das schon funktioniert hat dass man Atombomben halt nicht allen zur Verfügung stellt die da gerade Bock drauf haben Und sogar in Zeiten des Kalten Krieges gab es entsprechende Verträge.

01:01:23: Kannst du dir vorstellen, weil du anfangs ja auch meintest dieses... naja das ist eher alles Open Source,

01:01:29: d.h.,

01:01:30: in neun Monaten war das die längste Zeit hinter verschlossenen Türen?

01:01:35: Kannst Du dir vorstellen ist es technisch überhaupt möglich, dass man das wie bei einem... also beim Diskut in Anführungszeichen bei der Atombombe ist ja, dass du die Zutaten ganz viel von dem, was du dafür brauchst.

01:01:50: Total krass regulieren kannst, da ein Finger drauf haben kannst.

01:01:56: Das ist doch bei KI und einer von mir aus kriminellen KI eine komplett andere Story oder?

01:02:04: Nennen mich vielleicht überoptimistisch, weil das für mich ein großer Hoffnungsschimmer ist.

01:02:08: Aber in dem Moment wo das jetzt passiert was bei den großen KI-Konzernen der Fall ist?

01:02:12: Dass die Leute scheinen, die da Verantwortung haben dass sie scheinen tatsächlich ein größeres Interesse zu haben dass die Entwicklung einigermaßen kontrollierblau bleibt und da stellt es sei zumindest zur Hälfte die Wahrheit Dann wäre eine Chance dass die Frontgear Models die jeweils machtvollsten Modelle auch immer geeignet sind, um die ein Jahr später auf den marktkommenden dezentralen vielen kleinen Attacken durch irgendwelche wild gewordenen KIs abzufedern.

01:02:39: Das ist denn so einen Rennen?

01:02:40: Das ist wie bisher schon im Cybersecurity-Bereich.

01:02:43: Du musst halt immer ein bisschen schneller sein als Verteidiger oder als Angreifer und dann schaffst du es halbwegs, die meisten Systeme einigermaßen zu kontrollieren.

01:02:56: Da versucht man so schnell wie möglich, Gegenmaßnahmen zu finden.

01:02:59: Das ist für mich eine optimistische Erzählung weil sie in der Vergangenheit funktioniert hat und wahrscheinlich auch funktioniert wenn wir irgendwann tatsächlich AGI haben also eine KI die sich selbst verbessern kann und die deswegen viel machtvoller wird als Menschen im Moment glauben.

01:03:16: Ich dachte irgendwie dass wir einen optimistischen Wust am Ende hinbekommen.

01:03:19: ich finde es relativ beängstigend muss ich ehrlich sagen Mein Baby auf dem Arm haltend, also diese Vorstellung dass wir unsere Kinder in der Zukunft entlassen die hoffentlich noch eine sein kann.

01:03:31: Ich wäre gern optimistischer als ich es gerade bin bei dem Thema auch wenn ich glaube das ist auch noch Grund zu um Optimismus gibt.

01:03:37: Ja ja cool Leute!

01:03:40: Für mich reicht das was ich grade gesagt habe schon als ein optimistischen Ausklang aber hängt natürlich auch damit zusammen Wenn ich sehe, was die Bedrohung ist, die da gerade skizziert wird.

01:03:50: Dann sind so viele Solbo-Stellen und es müssen so viele Sachen gleichzeitig zusammenkommen dass das zwar nicht ausgeschlossen ist aber die Chance viel geringer als es in der Debatte gerade scheint.

01:04:01: Es ist schon so, dass man quasi rückwärts zum Korb steht mit verbundenen Augen, mit der falschen Hand mit einmal auftreffen einen Ball schmeißen muss Und das muss dann alles zusammen kommen.

01:04:10: Also ist vergleichsweise unwahrscheinlich nicht aus geschlossen Aber vergleichweise unwahrscheinlich.

01:04:15: Und die vielen Dinge, die viel wahrscheinlicher sind.

01:04:17: Von denen würde ich gerne größere und auch meinetwegen Diskussionen und Debatten hören, die mit ähnlicher Kraft geführt werden.

01:04:26: Aber dazu müsste man ja tiefer reinschauen in diese ganze KI-Welt.

01:04:30: Ja Leute, vielen Dank fürs Zuhören!

01:04:31: Ich bin gespannt wie ihr dieses ganze Thema seht ob euch das Angst macht?

01:04:35: Wie euch das beschäftigt oder eben vielleicht auch nicht was ihr für Szenarien habt.

01:04:40: Ich finde bei diesem Thema ist es so fantastisch sich Szenarien der einzelnen Menschen, die darüber reden so anzusehen.

01:04:49: Um auch manchmal Gedankenfade mitzugehen und zu gucken wie weit kann man das selber nachvollziehen was sich die Menschen an Gedanken gemacht haben?

01:04:58: Ich finde das faszinierend aber wahrscheinlich weil es mir dann am Ende doch nicht tatsächlich so viel Angst macht als dass ich's nicht auf so einer Theorieebene betrachten kann.

01:05:06: Ich verstehe auch wenn man sagt hey sobald ich irgendwas darüber lese mache ich den Laptop zu Genieß einfach noch die Sonne, solange ich es kann oder gehe raus.

01:05:13: Ich kann diesen Gedanken auch verstehen.

01:05:15: und vielleicht ein Punkt ... Wir haben darüber gar nicht in Aminata-Statement gesprochen, weil's heute gar nicht über dieses Thema ging.

01:05:22: Aber man muss das sich halt auch leisten können von beispielsweise nur künstlicher Intelligenz bedroht zu werden.

01:05:29: bei wie Aminate das richtig gesagt hat mit diesen Wahlen im Sachsen-Anhalt, mit Klima, Aufkommen im Faschismus in unserem Land, würde ich schon sagen gibt es gerade noch ein zwei Gefahrenquellen vor KI die vielleicht mit KI zusammen schlimmer werden könnten.

01:05:47: aber man muss sich leisten können nur über KI reden zu wollen bei diesem Thema.

01:05:51: Solange es auch noch so viele anderen Themen gibt die Menschen tatsächlich in ihrem Alltag bedrohen.

01:05:57: Wir hören uns wieder nächsten Dollarstag.

01:05:59: bis dahin machts

01:06:00: gut und Tschüss.