Wie habt ihrs mit KI?

00:00:00: Hallo und herzlich willkommen zu einer neuen Folge von The Curious Radio.

00:00:05: Jeden Donnerstag habe ich gelernt, kommen wir raus um euch hier jeden Donnerstag mehr oder weniger tiefgründige Gedanken mitzugeben wie man ein neukriegeres oder abenteuerlicheres Leben liebt.

00:00:16: es klingt viel zu aufgesetzt.

00:00:18: also wir hier irgendwie eine neue Religion

00:00:20: wollen wir?

00:00:21: ja das ist absolut

00:00:22: richtig.

00:00:22: wir wollen keine

00:00:23: neue Religion.

00:00:24: Wir wollen eine

00:00:25: kleine,

00:00:26: liebe neugierige Religion ohne Führerin

00:00:29: kriegen.

00:00:29: Wir wollen uns und die Welt ein Stückchen besser

00:00:32: verstehen!

00:00:33: Ich glaube einer meiner nächsten Newsletter – um das geht es nämlich auch in jeder Folge dieser Spezialausgabe des Curious Radios – wir bringen Themen mit, die wir schon mal in unserem Newspad-Leiter besprochen haben.

00:00:45: Heute bringt ihr ihr sein Thema mit, da geht's zum künstliche Intelligenz.

00:00:48: Es geht um unsere Beziehung

00:00:51: zur künstlichen Intelligenz.

00:00:52: Und ich glaube, einer meiner Nächsten wird meine Beziehungen zu Spiritualität werden?

00:00:56: Ah das ist schön!

00:00:57: Gut.

00:00:58: Aber nur zum Thema wollen wir da eine Religion gründen

00:01:01: oder nicht?

00:01:01: Ja ok, wollen wir eine Religion... Wir wissen

00:01:02: also nicht.

00:01:03: Das wird dann dort beantwortet.

00:01:04: Es wird dort beantwortet werden.

00:01:06: Heute geht es tatsächlich um die Frage wie unser Verhältnis zur KI ist.

00:01:10: Ich habe keine Antworten.

00:01:11: so viel schon vorweg.

00:01:13: viele Fragen an mich selbst und an euch und an dich.

00:01:16: lieber an dich bin gespannt Wie viel Wahrheit du hier auf den Tisch drängen leistest?

00:01:19: Du möchtest

00:01:20: mich jetzt outen.

00:01:21: Ich bin Mitgründer eines Magazins, das uns mehr ins Analoge... Also ist ja auch irgendwie großes Wort Dautologie.

00:01:28: Wir leben es immer analog und wir leben ja im Analogen aber die uns wieder mehr quasi ins echte Leben bringen soll weg von den ganzen Bildschirmen von diesen ganzen Dingen.

00:01:38: Und ich habe ein Geständnis.

00:01:40: Mein Name ist Andreas und ich bin wie soll das ausdrücken künstlicher intelligent süchtig.

00:01:47: Ja, mit diesem Geständnis würde ich sagen steigen wir mal ein in meinen Newsletter.

00:01:53: Für alle die es nicht wissen, wir bringen nicht nur die Idee des Newsletters mit sondern natürlich lesen wir ihn auch vor und kommentieren.

00:02:01: Hallo liebe Tochter!

00:02:03: Heute würde ich über etwas schreiben das vielleicht auf den ersten Blick sogar nichts im Cures und unserem Anliegen passt uns stückchenweise vom Doomscrolling, vom digitalen Wahnsinn zu lösen.

00:02:14: Aber mir ist diese Woche etwas wie Schuppen von den Augen gefallen, das gleichzeitig super banal und absolut weltbewegend ist.

00:02:21: Die KI schleicht sich langsam aber stetig in unseren privaten Alltag und in unsere Beziehungen ein.

00:02:27: Und darüber nachzudenken finde ich total spannend – also darüber was es tatsächlich und in unserem Alltag tut!

00:02:33: In meinem, in eurem, in unsrem... Was tut das mit uns, wenn man von der eigenen Marm eine Geburtstagsnachricht bekommt?

00:02:41: Die auf einmal all das sagt was man schon immer gerne hören wollte.

00:02:45: Aber die Vermutung sehr nahe liegt dass es zumindest mithilfe von KI geschrieben worden ist!

00:02:51: Was macht das mit Beziehungen, wenn wir uns die Bestätigung, die wir oft brauchen nicht mehr ausschließlich von einem menschlichen Gegenüberholen sondern von einem

00:02:59: Chatbot?!

00:03:00: Was wenn die Wut über einen Streit, die Überforderung und die ersten großen Gefühle im Chatboard landen.

00:03:07: Was macht das mit uns?

00:03:08: Mit uns allen!

00:03:12: Großes Thema.

00:03:13: Ich habe keine Antworten,

00:03:15: ich hab eine Meinung dazu.

00:03:16: Du hast schon eine Meinung?

00:03:18: Möchtest du schon loslegen in deiner

00:03:19: Meinung?

00:03:19: Lies mal weiter...

00:03:21: Ich sag's noch mal, ich hab keine Antworten.

00:03:23: Weil es ist mir tatsächlich beim Schreiben ... Aber worauf läuft das hinaus?

00:03:27: Da musst du irgendeine Antwort haben!

00:03:29: Aber ich habe keine Antworte, weil wir alle keine Antwort darauf haben.

00:03:33: Wir sind mittendrin in diesem schleichenden Experiment und hantieren uns so irgendwie und scheinbar ganz nebenbei vorwärts immer bis zu den Momenten, in denen etwas Außergewöhnliches vorfällt an denen man sich fragt, was war das

00:03:47: gerade?!

00:03:48: In der Kommunikation mit der KI selbst aber Ich finde vor allem auch in dem, wie wir gerade neue soziale Verhaltensweisen testen.

00:03:56: Wie und wann wird den Chatboard nach Hilfe fragen?

00:03:59: Und wie sich das dann wiederum ins Leben zurück übersetzt?

00:04:02: Ich weiß noch, wie lange ich mich gegen ein Smartphone gewährt habe – wie unnötig ich diese Neutechnologie empfunden habe!

00:04:09: Aber irgendwann ist sie dann in meinem Leben eingezogen und ich muss sagen, ich bin schon sehr froh darüber dass ich jetzt keinen Stadtplan mehr befragen muss um zu einer neuen Adresse zu

00:04:19: kommen.".

00:04:20: Wie wird das dann mit KI sein?

00:04:24: Aber da sind wir uns ja ähnlich, weil ihr habt nicht auch sehr lange kein Smartphone gehabt.

00:04:30: Wie ich letztens erfahren habe ist ja, hier hab ich irgendwann mal erzählt ... Das iPhone ist im Jahr zwölf rausgekommen und das stimmt gar nicht, es ist in dem Jahr acht rausgekommen.

00:04:38: Ich wurde schon berichtigt.

00:04:39: Aha wirklich!

00:04:40: Von der KI oder von den Menschen?

00:04:42: Darüber möchte ich keine Auskunft geben...

00:04:46: Deswegen hast du das

00:04:49: Sarko an.

00:04:52: Wo die Iris jetzt gerade hindeutet, schon ganz am Anfang damit die Leute auskennen ich nutze KI sehr viel aber ich finde es schon spannend was du am Anfang sagst weil ist natürlich in deinem Letter und das ist ja wahrscheinlich auch die große Frage da geht's ja um die sozialen Aspekte also quasi wie Welche Formen von Interaktionen und emotionalen Interaktion haben wir mit diesen Chatbots?

00:05:13: Und andererseits aber auch wie verändert diese Interaktions, unsere Interaktiones mit den Menschen um uns herum.

00:05:20: Ja weiß das mittlerweile nämlich schon tut.

00:05:23: Das ist

00:05:23: nämlich so seltsam weil ich habe schon Leute in meinem Umfeld die noch nie einen Chatbot genutzt haben andere die das sehr viel verwenden.

00:05:31: Ich bin irgendwo dazwischen.

00:05:32: Habe das auch gemerkt, es gibt sehr große...

00:05:34: Aber alle haben damit zu tun!

00:05:35: Und Ungleichzeitigkeiten.

00:05:37: Es gibt Leute die sehr wenig diese Dinge nutzen.

00:05:39: Es gibt dann wieder Leute, die sie tatsächlich sehr sozial nutzen.

00:05:42: und warum?

00:05:43: ich sage, ihr habt sehr viel mit Chat.

00:05:44: Bots zu tun, es ist ja nicht weniger.

00:05:47: Ich verwende sehr viel als Tool, als Programmiertool und solche Dinge.

00:05:51: Aber

00:05:51: verwendest du's auch im privaten?

00:05:53: Ich rede eigentlich selten über meine Gefühle mit deinem Chatbot.

00:05:57: Egal ob Menschen oder Chatbots!

00:06:01: Ich kann schon immer... ich möchte da jetzt mal kurz keine Vorteile bestätigen aber tatsächlich spreche ich über meine Gefühl, ich weine auch manchmal.

00:06:11: Das muss ich hier genau so raushauen.

00:06:15: Aber tatsächlich rede ich mit dem Chatbot eigentlich gar nichts über meine Gefühle, nur in Extremsituationen.

00:06:23: Mir ist in den letzten zwei Jahren sind mir zwei schwerwiegende, also einfach nur Lebenssituatione entstanden wo ich komplett überfordert war und da war der Chatbot extrem hilfreich Extrem hilfreich.

00:06:42: Ja, das habe ich auch gemacht.

00:06:45: Einmal habe ich es gemacht und verwendet aber unter der Inkognition.

00:06:50: Das war mir ganz wichtig dass das nirgends in meiner History aufscheint.

00:06:54: Und das andere Mal war ich kurz davor das zu machen und dann habe ich sein lassen weil ich mir gedacht hab das ist... Es geht gerade nicht.

00:07:00: Ich will das nicht in irgendeinen Chatbott reintippen und ich habe interessante Weise, darum geht es jetzt eher dann gleich im Letter einen Podcast gehört durch den mir das wieder viel bewusster geworden ist wie stark dass überall eigentlich vorkommt in unserem Leben weil halt alle irgendwie entweder Leute selbst in Chatbot nutzen um solche privaten Dinge zu besprechen oder Leute kennen die das tun unter sich.

00:07:22: denn das zurück übersetzt so wie eben diese Geburtstagsnachricht von von einer Person oder einer mir nahestehenden Person und dann die von der Mutter kommt.

00:07:34: Und das war so ein Punkt, wo ich mir gedacht habe, dass es so eine interessante Situation, die da plötzlich passiert, dass du deine Gespräche anders vermittelt kriegst durch diesen Chatbot?

00:07:44: Ist das jetzt ehrlicher oder ist das unehrlicher?

00:07:47: Soll man sich darüber ärgern?

00:07:48: Sollen wir uns das annehmen?

00:07:50: Was tut das mit uns wenn diese zwischenmenschliche Kommunikation über irgendeine Maschine läuft?

00:07:58: Ja, soll ich weiterlesen?

00:08:04: Du hast natürlich völlig recht.

00:08:06: Vieles deutet darauf hin dass wir durch die KI nur noch ein bisschen weniger gut miteinander umgehen werden können.

00:08:12: Dass wir noch mehr verlernen wie man Friction also kleine Störungen im smoothen Ablauf der Dinge aushält oder damit umgeht.

00:08:20: Dass Wir noch weniger gute Konflikte lösen können in denen wir uns gegenüber ernst nehmen und versuchen Perspektiven die nicht unsere sind zu verstehen dass wir immer noch mehr Bestätigung brauchen werden, dass wir noch egoistischer werden.

00:08:34: Schließlich ist eine ganz grundwesentliche Eigenschaft all der Chatbots das sie uns sehr gerne schmeicheln man könnte auch sagen uns ständig in den Arsch griechen!

00:08:43: Das DKI die wie das so schön heißt Sikofancy eingeschrieben ist.

00:08:48: Dazu kommt, dass ein Chatbot immer und jederzeit verfügbar ist.

00:08:52: Und das die Entwicklerinnen erst darauf anlegen, die KI möglichst menschlich und sympathisch klingen zu lassen.

00:08:58: Dass wir ihr also gerne vertrauen!

00:09:00: Das alles sollten wir nicht vergessen – genauso wenig wie die Tatsache, oder mit Hilfe von profitorientierten Unternehmen kommunizieren.

00:09:09: Dass die KI natürlich nicht neutral ist und dass genauso wenig wie Social Media ein öffentlicher Platz ist, die KI nicht die Verkörperung eines Wissens dieser Welt ist.

00:09:20: Aber was tut das zur Sache wenn die MAM plötzlich eine Nachricht schickt, die einen ins Herz trifft?

00:09:27: Und diese ohne KI niemals so hätte schreiben können!

00:09:30: Was, wenn die KI dabei hilft das Unverständnis in einem überforderten Ehestreit zu beseitigen?

00:09:36: Die erste Wut zu nehmen und das Gegenüber besser sehen und verstehen zu können.

00:09:41: Was, Wenn die KI einen besänftigt, wenn man von Angst geplagt wird?

00:09:46: Einen bestärkt, wenn Man zum Rauchen aufhören will?

00:09:49: Was, when?

00:09:50: the Tatsache dass immer da ist versteht alles erklärt und dabei ruhig bleibt soziale menschliche Beziehungen entlastet und bestärgt beim Lernen hilft der leistbare Tutor ist, psychische Probleme einordnet und einen zur richtigen Hilfe weiterleiten kann.

00:10:08: Ja ich kann zu allem ja sagen was du das sagst.

00:10:11: Das Problem mit KI ist ja eigentlich dass sie alles in sich vereint was für uns sehr schwierig auszuhalten ist.

00:10:21: es ist extrem hilfreich und gleichzeitig ist die Ausdruck von purem Kapitalistischen, um jetzt so richtig ein großes Wort zu benutzen.

00:10:32: Ähm ... Kapitalistes im Geschäftstreiben.

00:10:36: Also durch das größte Business seit der Erfindung der Eisenbahnen wahrscheinlich wenn wir jetzt zurückdenken.

00:10:42: also die Masse an Kapital, die da gerade reinfließt ist ja total verrückt.

00:10:48: und natürlich haben diese Personen, die das tun macht Interesse, die wollen mehr Geld verdienen wobei bei KI ist es ja noch fast ein bisschen schlimmer.

00:10:57: Die wollen ja sowas wie Allmachtsfantasien befriedigen damit.

00:11:01: Und zur gleichen Zeit bekommst du aber dadurch einen Kompagnon, der dir die meiste Zeit ... weil wir hören oft ganz schreckliche Fälle und die passieren natürlich auch wo KI Kinder in den Selbstmord getrieben hat... Aber die meisten Fälle für die reine These behaupte ich jetzt aber sind keine Extremfälle ist eher das Gegenteil wo sie tatsächlich hilfreich sein kann.

00:11:25: Hilfreich, so wie du sagst mit meiner Liebsten zu kommunizieren, fast sowas wie ein Übersetzer.

00:11:30: also weil ich sehe das so meine Familie von meiner zukünftigen oder vor meiner zukunft in Frauen nächstes Jahr bemeyeren die sind Ungarn und natürlich ist es schwierig mit ihnen zu kommunizieren, obwohl wir reden alles super englisch.

00:11:45: kein Problem aber manchmal hat man das Bedürfnis einfach quasi in die Sprache zu übersetzen.

00:11:50: Und da passiert es eben auch.

00:11:51: ich kann das dann plötzlich nutzen um mit der Mutter und dem Vater direkt zu kommunikieren über Chats.

00:11:57: Das ist genau so was, eine Kommunikation die mir sonst nicht möglich wäre und so seht ihr sie in einer gewissen Weise auf der emotionalen Ebene Ist jetzt nur These, oder?

00:12:07: Es ist halt schon auch so.

00:12:09: Also ich merke das schon auch.

00:12:10: oder eben durch diesen Podcast da gab es dann plötzlich viele Beispiele und alle kann nicht total nachvollziehen oder habt sie teilweise eben selber schon auch verwendet die KI den Chatbot dafür einfach in einer totalen Überforderung Dinge in die KI einzugeben und dann erstmal so also in dieser Ruhe und Bessänftigung und diese Bestätigung, die die KI dir gibt ja auch eine gewisse Ruhe zu finden Die KI ist ja kein, das ist ja auch ein ganz großes Thema.

00:12:36: Dass ich da eigentlich nicht wirklich anschneide.

00:12:38: aber so eine große Frage wie sehr die KI Psychotherapie ersetzen kann und sagen natürlich ganz viele Psychotherapeutinnen dass es totaler Blödsinn und das funktioniert nicht weil die KI dir halt nie widerspricht.

00:12:53: und was auch total interessant ist ein Artikel den ich dann gefunden habe von einem Psychoanalytiker der gemeint hat was halt durch die KI zum Beispiel verloren geht is die Pause.

00:13:02: dies gibt in diesen Gesprächen, die halt total viel Sagen sein kann.

00:13:06: Weil wenn du die Pause mal aushälst mit dem Gegenüber, bricht quasi was aus ... Kann was aus dir rausbrechen?

00:13:12: Was sonst verborgen geblieben wäre?

00:13:14: Das schafft die Kain natürlich nicht!

00:13:16: Aber so in diesem Lebens- strukturierenden... Ich bin überfordert.

00:13:22: Err, söder.

00:13:24: Meine Gedanken sind überall, was soll ich tun?

00:13:26: Ähm ... Und mir jemand sagt so, komm schon.

00:13:29: Alles in Ordnung mach eins zwei drei und mir irgendwie eine Anleitung gibt wo ich jetzt am besten anfangen soll ist es halt extrem hilfreich.

00:13:36: Wenn wir natürlich über KI reden auch über diese Studien- und Erfahrungsberichte das Ding ist halt sie entwickelt sich halt auf so schnell zum Beispiel über Erfahrungen vor einem Jahr zu sprechen haben schon eine gewisse Form von Wert, aber in Wirklichkeit haben sich diese Chatbots so stark verändert.

00:13:54: In gewissen Bereichen unfassbar verbessert dass ich ganz ehrlich teilweise gar nicht mehr weiß ob ich all dem zustimmen kann zum Beispiel das sie dir nie widersprechen.

00:14:03: Das passiert mir z.B.

00:14:04: jetzt wieder nur auf am technischen Ebene.

00:14:07: Ich habe da sehr oft den Fall, dass mir gesagt wird es geht nicht, das stimmt nicht Stimmt einfach nicht.

00:14:13: Und oft haben sie dann auch recht, aber unabhängig davon... Ich

00:14:16: glaube Sie können die ja eben im rein Faktischen widersprechen, aber ich glaub' die Grundannahme und das ist schon gefährlich.

00:14:23: Ich glaub', da gibt's schon wirklich eine Gefahr darin, ist schon dass sie dich bestätigen.

00:14:27: Ja, bei den Extremfällen so sichtbar geworden, dass dann Leute eben bis zur Psychose getrieben werden weil sie halt, weil die KI nie widerspricht, sagt sie ja!

00:14:37: Wir sind jetzt Die Retter der Welt oder sowas.

00:14:42: Ganz furchtbar.

00:14:42: Aber es ist interessant, hättest du dir jemals gedacht, dass du in so eine Auseinandersetzung in dein Leben führen musst?

00:14:49: Natürlich nicht!

00:14:50: Ich kann mich daran erinnern... ich

00:14:52: hab

00:14:52: ein Jahr an einer technischen Schule verbracht, mein neutes Schuljahr und das war in einer HTL in Österreich, ist das keine Ahnung, ein höheres technisches Gymnasium Und ich kann mich noch daran erinnern, dass das war zum Thema EDV.

00:15:12: Also quasi der Zweig war EDV und wir haben auch programmiert und so und es hat mir alles gefallen.

00:15:17: Obwohl ich dann mit fünf, sechs, fünf Jahren ausgestiegen bin weil ich die halbe Zeit nicht dort war unabhängig davon.

00:15:22: Ich kann mir aber noch dran erinneren mein Klassenvorstand hatte eine Vortragsreihe gehalten eben über technische Entwicklungen und diese ganzen Formeln von Gesetzmäßigkeiten die es da gibt ja immer noch eingehalten werden also wie schnell sich Technologie entwickelt.

00:15:38: Und er hat erzählt, es witzig dass ich mich daran erinnere aber das ist mir so hängen geblieben.

00:15:44: Dass ja also künstliche Intelligenz... Er hat tatsächlich darüber geredet, dass wird sicher kommen und er schätzt so ein bis zweihundert Jahre.

00:15:53: Wirklich?

00:15:53: Ja wirklich!

00:15:54: Und wenn du zurück gehst zu achtzig oder neunzig oder so und diese Papers durchliest Die haben, es hat ja so ein Krisenschub in den Siebzigerjahren und Achtzigerjanen gegeben.

00:16:05: Das sieht mir sogar, ich finde das ja interessant wenn man jetzt auf Sci-Fi Movies geht.

00:16:09: Diese ganze Sci-fi-Welle, die war natürlich auch getragen von dem Geist dieser Zeit.

00:16:15: Und das war halt so okay, jetzt haben wir die Atom-Bomber und die ganze Welt steht uns offen und wie werden technologische Durchbrüche nacheinander feiern?

00:16:24: Und da war künstliche Intelligenz ein großes Thema Und die haben das damals versucht, haben schon die richtigen Algorithmen eigentlich gehabt und entwickelt wie wir heute verwenden.

00:16:33: Nur es hat dann trotzdem noch vieles gefehlt und vor allem so die Rechenpower gefällt und deswegen ist das Thema dann liegengeblieben weil sie dann gemerkt haben okay das funktioniert jetzt nicht so.

00:16:42: also ist sehr so stayer wir kommen da nicht weiter und dann ist es liegen geblieben.

00:16:48: und dann war in den neunzigern ein KI-Bessemismus Ein richtiger K.I.-Besimismus, wenn man

00:16:53: sagt,

00:16:54: wo gesagt worden ist ja haben wir ausprobiert in den Achtzigern liegt in der Schublade hat nicht funktioniert.

00:16:59: diese Thesen sind nicht richtig und in der Zeit musst du denken hat es jetzt genau solche Prognosen gegeben.

00:17:06: Irgendwann wird's das schon geben, aber natürlich in hundert und zwanzig Jahren.

00:17:10: Und wenn du heute eine Diskussion schaust ist auch interessant weil es gibt ja zwei Lager.

00:17:14: Das eine Lager ist ja, dass sagt LLM ist zwar künstliche Intelligenz, aber es ist nicht die Form von Intelligenzen wie wir eigentlich als... beschrieben hätten, die diese Singularity erzeugt.

00:17:26: Also zu dieser Superintelligence führt.

00:17:29: und sie sagen eben ja jetzt bauen wir quasi den Strang aus, den wir machen können.

00:17:33: das ist so die dumme Intelligenz, die dann aber trotzdem auf uns superintelligent wirkt, aber niemals quasi diesen Übersprungshandel schaffen kann in dieser Überintelligenz vor der whatever es ist, von der übergesprochen wird.

00:17:48: Und dieses Lager sagt dann auch, weil die richtigen Intelligenzen weiter weg, da brauchen dann Quantum-Computer.

00:17:54: Da brauchen wir komplett andere Formen von Algorithmen um das zu machen.

00:17:59: und ich als kleiner Affe habe keine Ahnung ob das stimmt?

00:18:03: Ich kann nur aus meiner Benutzeranwendung sagen es ist einfach unfassbar was im letzten halben Jahr passiert ist.

00:18:10: Es ist halt auch total Musik!

00:18:13: Ist das das richtige Wort sich darüber Gedanken zu machen ob das stimmt oder nicht?

00:18:18: weil wir es ja nicht wissen, also nicht mal die Leute, die das mitentwickeln, wissen ob das stimmt oder nicht.

00:18:25: Das finde ich gerade auch an der... Also deswegen wollte ich auch diesen Newsletter schreiben, weil ich mir gedacht habe, dass wo es wirklich interessant ist, wie es schon in unserem Leben stattfindet, anstatt sich alle zwei Tage drüber Gedanken zu machen und welcher Mensch uns jetzt wieder prophezeit, ob er jetzt in drei oder fünf oder in zehn Jahren drauf gehen.

00:18:47: Oder ob das

00:18:48: zu superintelligen

00:18:49: ist oder ich weiß nicht, sich die Welt radikal ganz verendet und strittchenweise passiert es ja aber auf einer ganz anderen ganz praktischen Ebene.

00:18:58: Es wird dann oft so genau als an dann oft zur Definitionsstreit oder so Fantasie Konkurrenzen in einer gewissen Weise und dann wird oft vergessen Ja, aber es passiert ja schon was und das ist ja schon da.

00:19:11: Und ob dieses Ding dann tatsächlich auch eine Form von Bewusstsein hat oder nicht?

00:19:17: Weil wir wissen ja... Das ist einfach so ein geiles Thema.

00:19:21: Wir wissen bis heute noch nicht wo das Bewusstsein herkommt.

00:19:24: Es ist der Hard-Question.

00:19:26: Wo kommt Bewusstsehen her?

00:19:27: Wo entsteht das?

00:19:28: Entsteht das in Systemen?

00:19:29: Da gibt's eine Theorie, das ist Integrated Information Theory die sagt okay du hast ein System Das ist Informationsdruck sozusagen.

00:19:42: Genug Verbindungen, genug Informationsaustausch da drinnen passiert gibt es dann plötzlich eine Übersprungshandlung mehr oder weniger und dann plötzlich bildet sich diese Form von Bewusstsein aus die wir jetzt haben also dass man Dinge klar wahrnimmt das See sitzt da und ich existiere.

00:19:56: Also wie wissen so bis heute nicht alles.

00:19:58: nur Theorien hat niemand getestet kann niemand sagen.

00:20:00: Und da gibts der Hard question die immer schon überlegt wird weil zum Beispiel was ist das Bewusstsein einer Fruchtfliege?

00:20:06: hat die Bewusstsein oder nicht?

00:20:07: Also wo fängt das dann an?

00:20:08: und so.

00:20:09: Und da kann man wieder sagen, ja keine Ahnung es ist eigentlich egal weil wenn das Ding dann so...

00:20:15: Es existiert ja schon!

00:20:16: Genau.

00:20:16: und wenn es dann so alle Formen von Bewußt sein imitiert sowie Zomber gibt's ein großes quasi philosophisches Experiment und auf mich so wirkt als wäre es Conscious und Dinge macht es, wärs Conscious?

00:20:35: Praktisch sehen wir eigentlich total egal, ob da jetzt wirklich jemand drinnen sitzt und das Licht an ist oder nicht.

00:20:42: Es ist ja auch die Frage was das dann... Also ich finde diese Frage auch interessant wie formuliert das jetzt am besten?

00:20:50: Wie es sich das rückspiegelt?

00:20:52: weil wenn du wenn ich ihn gegenüber habe und das wirkt auf mich sehr menschlich und ich muss jetzt immer aktiv meinem Hirn sagen es ist nicht menschliche es ist ein Roboter Und gleichzeitig springen aber meine emotionalen Empathiestränge an.

00:21:08: Dann wäre es total irre, mir diese emotionalen empathiestrenge abzutrainieren weil dann werde ich ja total... Du weißt

00:21:14: der Psychopathin?

00:21:15: Ja

00:21:15: eben!

00:21:17: Also das ist ja auch der Punkt.

00:21:18: also dazu kommen wir hier auch gleich.

00:21:20: Aber die Frage von Empathie übersprungen, die passiert ja ganz schnell und das ist sehr total schön dass das passiert.

00:21:26: Ich lese mal kurz weiter Ah, ist ja lustig Hast

00:21:50: du dich gerade in deinem Newsletter verloren?

00:21:52: Ich habe mich gerade in meinem Newsletter verlorent, weil ich gedacht hatte dass ich noch sehr viel mehr geschrieben habe.

00:21:56: Aber ich hab dann tatsächlich mir mehr gedacht und weniger geschrieben um vielleicht auch offen zu halten uns da mehr Raum zu geben um die Frage wie wir mit dem Cures Magazine über die KI nachdenken wollen.

00:22:10: Genau deshalb ändert dieser Newsletter auf eine Art auch schon Versteht mich bitte nicht falsch, ich will kein Plädoyer für die KI halten.

00:22:19: Ich glaube die Welt insgesamt wäre besser ohne KI oder zumindest ohne die KI so wie sie jetzt gebaut wird.

00:22:25: aber die Frage stellt sich gar nicht.

00:22:27: wir sind schon mittendrin und testen alle gerade mehr oder weniger dran rum.

00:22:31: das Thema kann mir absolut Angst einjagen Aber gleichzeitig finde ich es auch wirklich spannend!

00:22:37: in die Schonotsstellen, die da weiter denken als ich das gerade kann und ich freue mich über eure Inputs.

00:22:45: Denn für mich stellt sich auch die Frage was euch daran interessiert?

00:22:48: Worüber wollt ihr im Curious in Bezug auf die KI lesen?

00:22:52: Welche Fragen beschäftigen euch daran?

00:22:54: Könnt ihr euch selbst oder andere in eurem Umfeld dabei beobachten wie sich gerade Beziehungen durch die KI verändern?

00:23:00: Schreibt uns!

00:23:02: Ja

00:23:04: aber diese Beziehung verändern sie ja in einer gewissen Weise auch im Geheimen.

00:23:09: Oder sagen wir mal so, es ist ja irgendwie... Ich kann das natürlich total praktisch antworten und sagen Ja aber wenn ich ein Buch über emotionale Intelligenz lese zum Beispiel oder eben Non-Violent Communication.

00:23:25: Kann ich mich daran erinnern?

00:23:26: Habe ich vor, weiß nicht, fünfzehn Jahren, zwölf Jahre in einer Beziehung gelesen, haben wir beide gelesen war wertvoll und diese dinge fallen wir bis heute noch auf.

00:23:37: nicht besonders gut damit umgehe also zumindest weil zum auf wenn wenn meine kommunikation quasi in einer gewissen weise diese genau diesen formen an nimmt die ein buch beschrieben werden so das verändert ja auch mal meine beziehungen mit einem anderen mit einer anderen person.

00:23:55: aber aber da sagen wir dann wieder dass es okay und sogar wünschenswert.

00:23:58: ich will

00:23:59: Ja, total.

00:24:01: Und das ist ja auch genau der Punkt wo ich mich frag wie... Also weil sie es ja da und sie ist total hilfreich und in diesem Podcast den ich öfters schon erwähnt habe, der heißt Black Box und diesen Podcast von The Guardian und da gibt's so mehrteilige, mehrteiligen Episoden und es beginnt doch mit den ganz dramatischen Fällen wo Leute wirklich abgestürzt sind mit der KI und dann an einem gewissen Punkt beginnen einfach so einzelnen Personen zu erzählen wie sie die KI wie sie halt ein Chatbot verwenden für unterschiedliche Dinge.

00:24:28: Und unter anderem geht es um einen Paar, die haben gerade frischen Kind ... Die waren irgendwie frisch zusammen verheiratet und glücklich, bla-bla-bla alles hübebäppig kriegen ein Kind und beginnen dann irgendwie sich in diesem ... Sie haben ein Kind keine Ahnung, das Leben wird halt irgendwie dramatisch und schwierig und sie beginnen nur miteinander zu streiten und irgendwer beginnt dann über den Chatbot zu kommunizieren um quasi die eigene Position klarer zu machen.

00:24:52: Und der Chatbot hat es geschafft, diese eigenen Wunsch oder diese Bedürfnisse, die eine von diesen zwei Aussprechen wollte, zu übersetzen so dass sie andere Personen das annehmen können weil es einen Mediator dazwischen gegeben hat.

00:25:06: und dann haben sie begonnen in Streitigkeiten über den jeweiligen Chatbots miteinander zu kommunizieren und haben dadurch sich das Leben einfach besser gemacht.

00:25:17: Und es ist ja großartig, so super dass es sowas gibt!

00:25:21: Und gleichzeitig total gruselig... Wir machen das halt mit irgendwie... Also wir sind da mitten in diesem Experiment drinnen, dass uns auch jederzeit ohne dass wir es merken total manipulieren kann?

00:25:35: Das Schrecken ist aber wieder wenn man eben beide Dinge aushalten muss.

00:25:38: Einerseits ist das extrem hilfreich und andererseits Es wird dann aber gruselig, wenn man drüber nachdenkt, wer die Kontrolle darüber hat und wo dieses Ding vielleicht noch hingeht.

00:25:51: Und

00:25:51: weil wir nicht verstehen was quasi die Inputs sind, die zu uns runter drippeln?

00:25:58: Ich denke mir halt nur... Das war auch so in dieser TikTok-Diskussion, weil ich schon auch für TikTok verbot bin prinzipiell.

00:26:06: Aber tatsächlich schon aus einer politischen Perspektive heraus, weil eine App zu erlauben, die von ... jetzt werde ich superpolitisch, ja auch das okay.

00:26:17: Aber die von einem kommunistischen Regime verwaltet wird, dass aber in ihrem eigenen... Dass

00:26:25: sie auch keine gesamten Daten auf dem Handy zugreifen

00:26:27: und so.

00:26:27: Nicht nur das sondern ein Regime also das chinesische Regime, dass diese Form vom PsyOps perfektioniert hat.

00:26:35: Also die ganz genau weiß wie man Massen von Menschen mit Informationen, mit den richtigen Informationen in eine gewisse Bahn lenkt.

00:26:43: Dass diese App die in China verboten ist dann bei uns dann plötzlich zehn zwölf dreizehnjährigen Kindern unter die Bettdecke gespielt wird Wo du nur so, und das sind wir ja direkt jetzt bei dieser KI-Diskussion.

00:26:57: Wo du eigentlich nur an einem Rädchen drehen musst.

00:26:59: Nur mal fünf Prozent mehr XY Content.

00:27:02: Fünf Prozent mehr diese Message!

00:27:05: Und plötzlich hast du diese schleichene Form von Weltbildverschiebung vor der man Angst haben muss.

00:27:11: Die merkt mir wahrscheinlich nicht.

00:27:15: Das ist ja keine Paranoia mehr sondern es ist tatsächlich... Nachgewiesene, also es gibt Studien die das nachweisen und dass so eine Radikalisierung genau über solche Dinge passiert ist.

00:27:26: Die ganzen Flat Earth oder diese ganzen Formen von Verschwörungstheorien... sind alle aus dem YouTube-Algorithmus entstanden.

00:27:34: Ja, weil man kann ja in dem wie man drüber spricht finde ich... Also hast du das nicht?

00:27:38: Dass du das Gefühl hast wenn ich sonst ausspreche

00:27:40: als wäre

00:27:41: man selber die chinesische Regierung manipuliert und Stück für Stück hin zu einem.

00:27:46: aber ja halt...

00:27:48: Aber zum Beispiel bei YouTube gehen wir davon aus dass es damals tatsächlich nur Interessens also Profitinteressen waren, weil weil man gesehen hat okay dieser Verschwörungskontent der führt zu eigenen Communities was YouTube wollte, die wollen Gewohnheitscommunities erzeugen.

00:28:06: Weil das dazu führt dass die Leute more time on platform genau das was Facebook und Instagram dann gemacht haben.

00:28:12: More Time On Platform haben also mehr Zeit auf der Plattform wo sie dann quasi wiederum ihre Ärzte verkaufen können.

00:28:19: Und aus diesem ... heute ist ja... Heute überall wissen wir ja alle, dass es passiert ist.

00:28:23: aber aus dem heraus sind dann plötzlich Communities entstanden Die dran glauben, dass die Erde flach ist.

00:28:30: Da ist die Community dran draußen standen, die glaubt das irgendwo in einem Washingtoner, Pizzeria, Bedoufile, Demokraten ihren Satan-Cult-Huldigen und solche Dinge.

00:28:42: Und natürlich wird es dann politisch vereinnahmt und wahrscheinlich mitgesteuert auch.

00:28:47: Das habe ich so arg gefunden, irgendwann zu verstehen dass Leute wirklich so augtevolviert sind, dass sie Demos veranstalten,

00:28:55: hingehen

00:28:56: um die Mädchen zu befreien.

00:28:58: Ich glaube sogar das eine Person gestorben

00:29:00: ist.

00:29:01: Aber natürlich dann.

00:29:02: gleichzeitig kann man das nie abdrehen an davon, dass es natürlich dann Leute- und politische Akteurinnen gibt die ganz genau wissen, dass es diese Formen von Algorithmen gibt und sie dann abbefeuern.

00:29:13: Und jetzt ist natürlich die große Frage hier, was passiert mit KI?

00:29:17: Das ist ja nur so viel in Thema... Aber das

00:29:23: ist so org oder ich finde an diesem Thema so wahnsinnig, dass du sobald man anfängt drüber nachzudenken, kannst einfach nur sagen okay tschüss!

00:29:31: Also man muss das einfach zu machen, das Kapitel KI schließen auf ewig nie wieder aufmachen

00:29:38: Ja, ist ja total unrealistisch.

00:29:40: Und gleichzeitig weiß ich halt was mit dem Smartphone passiert das.

00:29:43: Da habe ich mir auch gedacht wozu mache ich niemals?

00:29:46: und dann bin ich irgendwann darauf gekommen, es ist schon praktisch.

00:29:50: Es merke

00:29:50: ich halt mit der KI auch.

00:29:52: Es

00:29:52: gibt so einen gesellschaftlichen Adaptionsdruck da wird auch unser Magazin nichts ändern können dran.

00:29:58: Wobei wir es natürlich versuchen... Weil dieser ganze Klem von wieder mehr rausgehen, mehr Abenteuer.

00:30:05: Mehr im Leben sein ohne unsere digitalen Gadgets kommt ja nicht nur aus einem... psychologischen Bedürfnisse heraus, sondern in einer gewissen Weise auch ist es ja eine Haltung die auch wie ich das ganze jetzt nicht politisieren aber eine Lebenshaltung.

00:30:24: Die versucht sie da bisschen dagegen zu stellen was da gerade passiert diese Welle an digitaler Transformation die über uns drüber fährt.

00:30:31: Aus den gefühlten

00:30:32: Notwendigkeiten würde

00:30:33: ich sagen und gleichzeitig muss man etwas sagen Ja es ist aber schwierig dieser Welle.

00:30:38: Es fühlt sich so an als würde man einfach Boot in einem Segelboot sitzen und man hat keinen Einfluss drauf oder wohin der Wind wird.

00:30:50: Man muss da einfach irgendwie mitsegeln, man kann so ein bisschen dagegen lehnen und man kann bisher herum rudern und solche Dinge tun.

00:30:56: aber gleichzeitig wenn man quasi auf dem Boot bleiben will dann muss man da irgendwie auch mit Weil Runterspringen und Schwimmen ist schwierig.

00:31:03: Das hört sich so pessimistisch an, aber so fühlt es sich auf

00:31:05: uns an.

00:31:05: Es ist auch irgendwie... Ich glaube wir fühlen das schon alles.

00:31:08: Es hat einen ganz dunklen Kern.

00:31:10: Aber

00:31:11: wo ist die Utopie?

00:31:13: Hat das was mit uns zu tun weil wir natürlich diese Dinge wahrnehmen?

00:31:18: Weil wir einfach Persönlichkeitsstrukturen haben, diese Dinge.

00:31:21: Weil die,

00:31:22: die das kreieren und das Ding in der Hand haben,

00:31:25: die Dystopie

00:31:27: mitleben und verbreiten und seit Jahren nichts anderes als eine unfassbare Dystopien die Welt stellen.

00:31:34: Das

00:31:34: stimmt und prinzipiell

00:31:35: Lügner sind.

00:31:37: Also

00:31:37: was soll ich dazu sagen?

00:31:39: Aber man kennt ja dann auch... Ich gehe jetzt mal nicht auf diese ganzen Claims ein, die diese großen Macenna da irgendwie die ganze Zeit muss man sagen.

00:31:48: Es sind ja nur Dudes oder Aufstellen der reichsten Menschen in der Welt, die uns da jetzt dieser Dinge vor die Tür, vor die Nase setzen.

00:31:55: Gleichzeitig kann ich natürlich schon wahrscheinlich... Manchmal, in manchen Momenten habe ich dann doch das Gefühl, aha okay und das beschreibst du auch Das kann uns schon sozial intelligent machen.

00:32:10: Es kann uns helfen, so wie es jetzt ist.

00:32:14: Und

00:32:14: wenn's dann wirklich so intelligent wird?

00:32:18: Diese Form bei Intelligenz ist ja an sich schwer zu fassen.

00:32:22: wie sie dann nur gut in Mathe und ist aber sozialer Trottel, so.

00:32:25: Ist ja für uns schon als Menschenschwierigste Intelligenz zu fassen.

00:32:29: In einem Intelligenztest testest du ja nicht soziale Intelligenze aus.

00:32:33: Für mich das Wichtigste überhaupt für die Menschen mit denen ich interagiere.

00:32:36: Mir ist total egal ob du multiplizieren kannst, aber ich finde es schon cool wenn du irgendwie sozial intelligent, intelligent mit mir meinen Tag verbrängst.

00:32:45: Das ist eine totale schonmal werte Frage, die total verrückt ist in Wirklichkeit.

00:32:49: Und dann aber gehen wir jetzt mal davon aus, dieses Ding ist auf allen Ebenen unvorstellbar anders und so out there das man sich nicht mehr vorstellen kann.

00:33:04: Dann geht es mal nicht davon aus dass die uns dann... Wegrationalisiert, das macht ja nur ein Trottel eigentlich.

00:33:11: Aber um die Frage... Ich finde, um diese Frage geht es mir gar nicht und ich will mich da nicht reinsetzen weil ich finde, dass ist so eine Frage von so Science-Fiction.

00:33:20: Utopie.

00:33:20: was ist Distopie?

00:33:22: Und dann wird man so schnell, so müde!

00:33:24: Ich wäre zu schnell müde für diese Frage weil sie ermüdet mich in dem Sinn, dass sich auch Null Möglichkeiten haben, mich da drin zu bewegen.

00:33:32: Was mich total interessiert sind eben diese Alltäglichkeiten und die tausenden Fragen, die mit diesen Alltaglichkeiten anhergehen Und die ja nicht weniger werden Die werden immer mehr.

00:33:42: Also die Frage ob uns die KI egoistischer macht Ob sie uns weniger sozialfähig gemacht oder ob sie uns mehr fähig macht Und nicht auf so einer allgemeinen Ebene.

00:33:52: tut sie das Ja oder Nein Sondern wie passiert es gerade?

00:33:56: Find ich total spannend Thema, das im Kürs irgendwie passen kann.

00:34:01: Auch wie wir uns in der Welt bewegen und wie wir auch uns in einer lebendigen Analogenwelt bewegen mit diesen neuen Beziehungen oder diesen neuen sozialen Konstrukten die da entstehen.

00:34:16: Was ich jetzt sehe und das zeigen irgendwie alle Daten dass wir halt immer mehr vereinzeln.

00:34:20: Dass wir ihr Blödsinn erst gelesen, da werde wahrscheinlich auch ein Newsletter drüber schreiben.

00:34:27: Es gibt Verhaltensstudien in den USA, also statistische Daten, wo das Verhalten von Haushalten ausgewertet wird.

00:34:34: Und da sieht man das seit den siebziger Jahren ... Ich hab die Zeit immer ganz genau im Kopf, aber es waren glaube ich um die sechzig-prozent weniger Dinners veranstaltet werden.

00:34:45: Also Menschen eingeladen werden.

00:34:47: Obwohl die Menschen mehr zu Hause sind?

00:34:49: Das ist nämlich auch interessant!

00:34:50: Sie sind vielmehr zuhause und gleichzeitig nimmt aber diese ganze soziale Beziehung Kette, die wir zuhause praktizieren.

00:34:58: Und ich seh's ja in meinem Umfeld.

00:35:01: Nimmt das total ab?

00:35:02: Also wie vereinzelnd ...

00:35:03: Ja aber auch das ist eine Gesellschaftsanalyse, die wichtig ist.

00:35:08: Aber ich finde immer die Frage, wofür führt uns das hin?

00:35:12: Nur dass es jetzt wirklich in deinem Praktischen ... Das hab' ich jetzt an deinen praktischen Gnaken geknüpft.

00:35:17: Weil so... Das ist ja praktische Frage!

00:35:19: Die Tatsache, dass ihr jetzt plötzlich jemanden habt mit dem mich unterhalten kann, unterhalte mir dann nur weniger mit Menschen.

00:35:26: Also das sind so offene Dinge, die ich nicht beantworten kann, die keine Ahnung haben, aber die wir wahrscheinlich schon in den nächsten fünf Jahren sehen können.

00:35:38: So was braucht du bis jetzt Zeit?

00:35:43: Und dann ist die Frage...

00:35:45: Du bist mir schon wieder abgebogen!

00:35:47: Ich will am liebsten von deinem Plädoyer vorhin Da wird nicht noch ein neues Thema mit Einsamkeit aufmachen, weil es ist unwichtig und das ist ein neues thema.

00:35:57: Und da müsste man jetzt wieder daran gehen...

00:35:59: Aber es ist ja total verknüpft miteinander?

00:36:02: Es ist auch total vergnüpft mit dieser Frage von Empathiefähigkeit, sozialen Beziehungen wie sich soziale Beziehung ändern eben auch wie sie besser werden möglicherweise und ich finde dieses also wo ich dann plötzlich einen Interesse an diesem Thema von KI-Krieg ist nicht in dieser Frage, was wir den fünf Jahren sind.

00:36:23: Weil wir keine Ahnung haben!

00:36:25: Wir wissen es einfach nicht... Wenn wir uns nachdenken wie vor einem Jahr, vor zwei Jahren mit diesen ersten Versuchen die du gemacht hast mit irgendeinem Chatbot zu jetzt, in welcher Selbstverständlichkeit dieses Ding auf einmal da ist und verwendet wird und von ganz unterschiedlichen Leuten ich weiß nicht auch von einer Tante zum Beispiel von einer Freundin letztens, die haben dann auf einmal so Party-T-Shorts gedruckt mit KI erstellten Bildern.

00:36:55: Den Megaspaß dabei gehabt irgendwie ihren Freund im Bikini Fußballfeld wurscht.

00:37:01: Die Leute können auf einmal kreative Sachen machen und jetzt haben sie die Tools dafür.

00:37:07: Also es gibt ja ganz viele Dinge, die plötzlich passieren.

00:37:12: Das geht mir nicht darum, quasi zu sagen KI ist super und man kann jetzt auf einmal bessere Dinge machen.

00:37:16: Sondern es ist schon da!

00:37:19: Also Dinge verändern sich schon.

00:37:21: Lass uns drüber reden was sich gerade verändert?

00:37:23: Nicht was ich in fünf Jahren verändern wird sondern was jetzt gerade passiert und was das mit uns tut bevor wir uns entweder in so einem Angstdiskurs verlieren oder in dem was wir sein Diskurs wo wir auch nie wissen.

00:37:38: Ich find das schon interessant, aber was ist Intelligenz?

00:37:42: Aber das ist noch mal auf so einer ganz anderen Ebene interessant.

00:37:46: Was ihr aber interessant findet und nicht um das ganze Thema wieder aufzumachen.

00:37:50: Nein, das war jetzt das Ende an

00:37:51: dich!

00:37:52: Ja, aber ich finde es auch interessant, dass diese Auseinandersetzung mit der Frage, was ist KI und wie verändert uns KI im Kern eigentlich die Auseinsatzung, wer sind wir...

00:38:02: Genau als Menschen.

00:38:03: Als Menschen und was sind zum Beispiel Verhaltensweisen die wir schätzen, welche Formen für Sozialität wollen.

00:38:10: Wir haben das so beantworten können, haben aber wir setzen uns mit dieser Frage auseinander.

00:38:15: Das ist nicht

00:38:15: meintlich... Wird sich dieses

00:38:16: andere Ding, dass es dazu zwingt, uns zu spiegeln und uns selbst zu verstehen?

00:38:21: Und plötzlich so dieses Menschsein wichtig wird oder?

00:38:23: Ja!

00:38:24: Weil das habe ich so schön gefunden an diesem Artikel von dem Psychoanalytiker der eben sagt was halt die KI niemals leisten kann is diese Pause, diese zwischenmenschliche Pause auszuhalten und in dieser Pause Emotionen, einen Raum zu geben.

00:38:41: Und das ist schon toll!

00:38:41: Das ist so ein schönes poetisches Bild... ...das mochte ich sehr gern an dieser Vorstellung was nur Zwischenmenschliches

00:38:50: sein kann.

00:38:50: Ich glaube guter Abschluss für die ganze Folge ist wir sollten wahrscheinlich trotzdem immer noch mehr in den Wald gehen.

00:38:58: Ja und wir wollen von euch hören wie ihr mit der KI umgeht.

00:39:01: tatsächlich meine ich mich interessiert es wirklich nämlich eben.

00:39:07: In dieser Frage auch, wie geht man mit dieser Angst um die gerade geschürt wird?

00:39:10: Wie geht man diese Dystopie um?

00:39:12: aber auch wie geht es ihr tatsächlich in eurem Alltag mit KI um?

00:39:17: und wie verändert euer Leben?

00:39:18: Und vielleicht ganz praktisch hat es Momente gegeben wo was gut war sie zu haben oder Momente wo du drauf gekommen bist so hey das ist creepy as fuck.

00:39:29: geht das hin?

00:39:31: solche Beispiele finde

00:39:32: ich immer cool.

00:39:33: okay das war's für heute

00:39:35: ja

00:39:37: super Wenn du diesen Podcast auf deiner Podcast in App bewertest, dann hilfst du natürlich dem ganzen.

00:39:47: The Curious Mag.

00:39:48: Wir wollen eine Community sein.

00:39:50: Eine

00:39:52: Religion?

00:39:52: Keine Rolle, ich finde das ist mit der Religion.

00:39:55: Ich bin immer noch ganz sicher.

00:39:57: Und dafür, damit wir diese Religion gründen können brauchen wir gute Bewertungen.

00:40:00: und natürlich falls du den Newsletter noch nicht kriegst dann abonnier ihn auf www.thecuriousmag.com.

00:40:08: slash letter.

00:40:10: That's it!

00:40:11: Okay

00:40:12: tschüss!

00:40:12: Wir freuen uns immer über Zuschriften.

00:40:16: Das stimmt.

00:40:16: Passt tschüß.

00:40:17: Tschüss.