KI-Brillen-Albträume und Apple-Fanboys | #14
Shownotes
Murmeln sind die Lösung.
Mit Christian Lutz-Weicken und Jan-Keno Janssen
Meinungen & “Würdest du lieber”-Ideen sehr gerne an 4004@ct.de!!
Kapitelmarker: 00:00 Intro 00:47 Keno ist jetzt Hungerkünstler 04:12 Feedback 08:55 Open-Source-Projekte unterstützen 10:29 Open-Source-Offices haben schlechtere Barrierefreiheit 11:44 Take der Woche: KI zwingt uns in ein Security-Wettrüsten 13:38 Opus findet Jahrzehnte alte Schwachstellen 18:26 Opus kann Windows-Software reverse-engineeren 20:35 Keno und Chris sind sich leicht uneinig, wie gut lokale Modelle sind 29:26 Die ersten Benchmarks sind da: SSD im Apple MacBook Neo ist lahm und das SoC ist lahmer als im iPhone 17e 39:49 Würdest Du lieber: Passwortmanager oder AGBs 45:59 Wikipedia hat ein KI-Problem 50:20 Nearby Glasses: Selbstverteidigung gegen rücksichtslose KI-Brillen-Leute 01:02:03 Netflix hat Synchron-Beef 01:09:09 Shoutout: Murmiland
=== Anzeige / Sponsorenhinweis === Mit Mammouth bekommst du Zugriff auf KI-Modelle wie GPT, Claude, Gemini, Mistral, Grok, DeepSeek, Perplexity, Flux, Nano Banana und Recraft – alles vereint an einem Ort. Alles im Starterpaket brutto ab 11,90€ / Monat bei monatlicher Laufzeit oder 9,92€ / Monat bei jährlicher Laufzeit mit Vorauszahlung. Mehr Infos: http://mammouth.ai === Anzeige / Sponsorenhinweis Ende ===
Transkript anzeigen
Hallo, schön, dass ihr da seid. Heute geht's bei uns um Apple-Fanboys, KI-Brillen, Albträumen und Murmeln. Viel Spaß bei... ...3003, 3004, 3004... ...4004.
Ja Mensch schönen Guten Tag. Chris mein Lieber, wie geht es dir? Keno mein Lieber, ja mir geht's gut. Ich hoffe dir auch. Ja ich hab ein bisschen das Gefühl - ich weiß nicht ich mach ja gerade Intervallfasten. Ja. Und auch sonst so, ich habe jetzt letztes Wochenende, habe ich mal 48 Stunden Wasserfasten gemacht, weil ich kann da noch nicht so richtig drüber reden, aber ich habe so eine Sache, wo ich, ich sage mal, wo meine Sichtbarkeit erhöht ist und da habe ich mir vorgenommen, komm, da gehst du jetzt nochmal all in, um halt so richtig top fit und schlank auszusehen. Handelt es sich um einen Bravo-Starschnitt? in mehreren Teilen. Nee, so ähnlich aber. Aber ihr da draußen, ihr werdet die Ersten sein, die davon erfahren, aber ich weiß halt nicht, ich weiß gar nicht, ob ich das schon sagen darf oder ob das irgendwie es ist schon alles ziemlich in trockenen Tüchern, aber halt noch nicht zu 100 Prozent, dann werde ich das nochmal erzählen. Aber auf alle Fälle wusste ich gar nicht, dass so nix essen tatsächlich auch doch auf den Kreislauf geht. Ich hab das jetzt gerade die ganze Zeit, dass ich so, keine Ahnung, irgendwas mich bücke oder so und dann wieder aufstehe, dass ich dann sehr kurz immer denke, okay, okay, das war's jetzt, jetzt kippst du um. Okay, Herzinfarkt. Nein, Herzinfarkt natürlich nicht. Aber auf alle Fälle in so eine Richtung, das nennt sich ja, wie nennt sich das nochmal? Orthostatische, es gibt da so einen geilen... Ja, jeder kennt das. Orthostatische. Orthostatischer Schwindel. Orthostatische Genau. Oh, schönes Wort. Ja, und Lass mal eine neue Rubrik machen. Wort der Woche oder so. Fremdwort der Woche auf jeden Fall. Das Wort der Woche ist orthostatische Hypotonie. Ja, hast du ja auch gut gemerkt auf jeden Fall. Es hat wohl offenbar damit irgendwie mit Elektrolytmangel oder so zu tun. Aber ich sehe das, ich bin ja Optimist und ich denke so, ja, das ist ein Zeichen dafür, dass es was bringt. Ja. Und was auch blöd ist beim Fasten, muss ich sagen, dass man so einen Mundgeruch hat, weil man ja dann die ganze Zeit in dieser, ich glaube Ketose heißt das, auch ein schönes Wort, also dass man so fett verbrennt und dann riecht man so schlecht. Finde ich es auch irgendwie eher blöd. Was ich aber gut finde, du merkst, ich habe voll Bedürfnis über Fasten zu sprechen. Was ich interessant fand, dass das auch so ein bisschen trippy ist, dass man so wirklich ja, ich komme dann in so einen richtig angenehmen wo ich so keine richtigen Bedürfnisse habe und ich habe so eine innere Ruhe und so. Also alles sehr, ja, sehr trippy. Okay. Auf gute Art und Weise. Aber ich meine, man weiß das ja von allen oder von vielen spirituellen Bewegungen, Religionen, dass da ganz oft solche Meditationsspiri-Sachen oft mit Fasten zu tun haben. Und das ist offenbar nicht ohne Grund so. Ja, Fasten hat ja auch immer was mit Reinigung und so körperlich und spirituell zu tun. Auf jeden Fall. Und auch dieser ganze Dopamin-Shit, den wir halt haben mit unseren ganzen technischen Devices und Social Media, das resetet das auch ein bisschen. Und jetzt habe ich natürlich richtig Bock, wieder Technikkram aufzumachen und über Technikkram zu reden, um das hier mal wieder einzufangen. Okay, hört sich gut. Ja, lass reingehen. Erstmal nochmal, wie immer, danke für euer ganzes geiles Feedback, was ihr uns immer schreibt. Ich bin wirklich begeistert und es wird jede Woche besser. Die Zuhörerinnen bauen krasse Dinge. Ich weiß nicht, ob du alles gelesen hast. Also da geht mir immer richtig das Herz auf, wenn Leute auch schreiben, was sie sich cooles selber gebaut haben und nicht irgendwie gewartet haben, bis irgendein Hersteller ein Produkt entwickelt, was so ähnlich ist wie ihre Ansprüche, sondern wenn sie einfach ein Problem haben und sie bauen sich die Lösung gleich selber und am besten wird daraus noch ein Open-Source-Projekt oder eine öffentliche Website oder irgendeine Art Service, finde ich richtig gut. und in dem Zusammenhang hat... Das ist auch so c't, finde ich. Das ist so, ich finde, das ist so Heise und c't, das ist so, wenn man es so ganz positiv sieht, das ist so, glaube ich, unsere DNA. Dass wir halt immer sagen, ey, Produkt unwichtig. Wenn es das Produkt nicht gibt, dann macht euch das selbst oder verändert ein Produkt oder so. Aber diese Hacker, dieses Hacker-Mindset, finde ich für uns wichtig. Empowerment, das sind einfach, der Computer ist ein Tool und das soll halt irgendeinem Zweck dienen und ihr müsst nicht warten, bis irgendwie jemand ein Produkt rausbringt, was den Zweck für euch erfüllt, sondern wenn ihr ein Bedürfnis habt, was man damit erfüllen kann, dann baut es einfach selber. Jetzt könnt ihr sogar Vibe-Coden. Ich wollte gerade sagen, also das, ich weiß gar nicht, das ist so krass mit dem Vibe-Coding. Muss ich mal einmal kurz erzählen. Ich hatte ja schon öfter erzählt mit meinem Apple-Cluster, mit diesem AI-Cluster, den ich da baue. Und das ist ja buggy wie Sau. Und ich habe jetzt einfach mal mir, weil es sind halt drei Rechner, ich habe aber da auch nur einen Monitor und eine Tastatur stehen, das heißt, ich muss immer die Rechner umstöpseln und die restarten und so. Und dann habe ich mir gedacht, ach komm, jetzt Vibe-Code ist dir mal was. und dann, ich meine, es ist auch relativ trivial, aber ich hab einfach ich hab dann einfach Claude Code gesagt, hey ich hab hier drei Macs und ich möchte die von einem steuern, damit ich da nicht immer meinen Monitor umstöpseln muss, weil es eh so umständlich ist, dieses ganze Geklicke und dann so, ja klar, hier einmal SSH und hat dann halt einfach bei allen dreien SSH-Zugang aktiviert und ich hab jetzt einfach ich drücke jetzt einfach Restart Cluster, gebe ich ein, zack. Und er hat dann mir so ein Shell-Skript gebaut, was die Prozesse killt und restartet. Und jetzt geht das tatsächlich. Ja, genau so was meine ich. Und dafür gibt es halt auch kein Produkt. Oder wenn es ein Produkt gibt, was das kann, dann kann das noch 10.000 Sachen darüber hinaus, die man gar nicht benötigt und kostet dann halt irgendwie Geld oder ist Software as a Service oder ein bescheuertes Abo, baut es euch einfach selber. Wenn ihr genau wisst, was es tun soll, kleines Scope, einfach selber bauen. Ja, und ich weiß, dass es wahrscheinlich so Menschen gibt, die sagen, so ein Shell-Skript, wieso, wo musst du das denn? Vibe-Coden oder so. Aber ganz ehrlich, ich bin da nicht so gut drin in Shell-Skripten und so. Und auch mit dem SSH, klar, ich benutze ständig SSH, aber ich muss es doch immer wieder nachlesen, wie das geht, gerade wenn man passwortlos arbeiten will und so. und das ist einfach so geil, dass man einfach das Ergebnis vorgibt und dann wird das einfach gemacht und man kommt sich so wahnsinnig powerful vor, finde ich super. Ja und ich finde auch, man muss sich dafür nicht schämen, weil jeder also, kein Mensch kann alles wissen und man kann auch nur so und so viele Programmiersprachen oder andere Techniken oder Sachen gut können gleichzeitig bevor man wieder eins vergisst, weil man sich halt zu lange mit anderen beschäftigt hat. Deswegen finde ich, ist da absolut kein das ist absolut keine Schande irgendwie, sondern Das ist nett von dir, dass du das sagst, aber das heiße Forum sieht es anders. Ja, okay. Für mich ist es, vielleicht liegt es auch daran, dass ich auch ein bisschen alt bin inzwischen, aber ich will einfach das Ergebnis, ich will einfach zu dem Ziel kommen und das irgendwie hinterher besser machen, das geht immer und optimieren und so super und den perfekten Weg bauen, aber erstmal will ich sehen, dass das funktioniert und meinen Proof of Concept haben. Und wenn Vibe-Coding einen da hinbringt, bitte, bitte vorgehen. Auf jeden Fall eine interessante Anmerkung kam auch noch von einem Zuhörer, nämlich dem Thilo und der hat sich auch für seine ganzen Prozesse im Betrieb verschiedenste Lösungen gebaut und sagt, dass er die letzten Jahre vermehrt auf Open Source setzt und er halt dadurch auch Geld spart bei Softwarelizenzen und dieses Geld gerne an Open-Source-Projekten zuführen will. Und da meinte, dass nicht immer ganz so einfach ist. Und das stimmt, weil nicht alle Open-Source-Projekte so eine Foundation haben wie Apache zum Beispiel oder so die größeren Sachen. Aber da gibt es eine ganz nice Seite und das ist die sogenannte Open Source Collective. Und da kann man für über 2700 Open-Source-Projekte direkt spenden und sich auch eine Spendenquittung im Backend ausdrucken. Und die kann man dann, müsste man zumindest, ich habe es selber noch nicht ausprobiert, aber ich denke mal, die kann man auch in eine deutsche Steuererklärung, was ja immer so der Goldstandard ist, reinpacken. Und das als Spende geltend machen. Guter Hinweis. Und was ich ganz interessant fand, dass wir den Hinweis bekommen haben, dass Open Source halt nicht immer besser ist als was Kommerzielles und zwar in Sachen digitale Barrierefreiheit, dass die Microsoft-Office-Produkte oder Microsoft-Produkte mehr Barrierefreiheit bieten als sowas wie Nextcloud, also Open-Source-Sachen. Ja, das ist ja auch irgendwie klar, weil da weniger Leute arbeiten und würden also öffentliche Stellen unseren Aufruf folgen, dann würde das zur Exklusion von Mitarbeitenden führen. Und das finde ich auf jeden Fall einen interessanten Aspekt. Also ich finde, es kann jetzt nicht die Lösung sagen, ja gut, dann lass uns für immer zu Microsoft gehen, sondern das ist halt was, worüber man dann reden kann, ob das nicht vielleicht was ist, was man mit Steuergeldern finanzieren könnte. Dass man halt solche Features integriert, weil es kann ja nicht sein, dass das dann das Argument ist, weil Open-Source-Projekte können genauso barrierefrei sein, aber es ist halt eben nicht, ja, wahrscheinlich nicht in der Priorität oder auch, ich glaube, Priorität weiß ich gar nicht, aber es ist auf jeden Fall die Sache mit den Ressourcen. Aber auf jeden Fall interessanter Gedanke. Vielleicht kann man auch Geld, was man durch Software-Lizenzen, die man nicht kaufen musste, gespart hat, umwidmen und genau zu solchen Zwecken wieder über so eine Plattform wie Open Source Collective diesen Projekten zufließen lassen, damit sie da was tun können. Ja, würde ich auch so sehen. Jo, aber vielen Dank, wie gesagt, nochmal für eure ganzen Mails. Schreibt gerne weiter an 4004.ct.de, freuen wir uns drüber und natürlich auch mit Würdest du lieber Vorschlägen, da haben wir auch ein paar ganz coole bekommen. Ja, das nimmt jetzt langsam Fahrt auf, das hat mich auch sehr gefreut und seid nicht traurig, wir können nicht jede Mail beantworten, aber wir lesen sie alle, also ich zumindest. Wir versuchen schon, die zu beantworten. Und genau, würdest du lieber diese Rubrik, die wir jetzt seit ein paar Folgen haben, also wenn ihr was wissen wollt, was wir beantworten sollen, dann schickt uns das. Und ja, kommen wir zum Take, apropos Rubriken, kommen wir zum Take der Woche. Hast du einen? Der Take Mein Take diese Woche ist, AI zwingt uns in ein neues Security-Wettrüsten. Und das ist ja auch erstmal, also das ist jetzt kein so gewagter Take, würde ich sagen, weil das eigentlich schon an allen Ecken und Enden gerade sichtbar wird. Sowohl in der Analyse von Quellcode und auch durch solche Tools wie Shannon, worüber wir schon gesprochen haben, die halt automatisiertes Penetration-Testing machen. Da passiert gerade so viel, dass das sowieso schon losgegangen ist. Ich habe gerade nochmal den Gedanken diese Woche einbringen wollen, weil Mark Russinovich, der relativ bekannte amerikanische Sicherheitsresearcher und auch CTO von Microsoft Azure, wenn mich nicht alles täuscht, also sehr prominente Figur, der hat diese Woche ein jahrzehntealtes Assembler-Listing eines Apple-II-Programms, was er mal in einem Magazin namens Compute in den 80ern veröffentlicht hat, von Claude Opus untersuchen lassen. und war positiv überrascht, dass Claude Opus das sofort dekompilieren konnte und analysieren und auch Security-Schwachstellen darin finden, ohne dass es irgendwie dafür besonderer Instruktionen bedarf hat. Und das führt uns halt wieder mal vor Augen, dass einfach diese Modelle so gut sind, dass sie halt auch irgendwie jahrzehntealte Binaries von Architekturen, die heutzutage auch nicht mehr aktiv entwickelt werden, direkt verstehen und dekompilieren und analysieren können. Und das kann man natürlich auch auf alle anderen Arten und Bereiche ausdehnen, wie zum Beispiel auf Treiber oder medizinisches Equipment, alle Arten von Spezialequipment oder sowieso Embedded Systems, die nicht einfach so aktualisiert werden können over the air. Und also da reden wir von potenziell Milliarden Geräten, die Schwachstellen. Aber du sagst Security-Wettrüsten, das klingt irgendwie so negativ irgendwie. Naja, das sind halt zwei Seiten, wie immer. Also natürlich, wenn man jetzt als Hersteller oder Sicherheitsforscher proaktiv rangeht, dann ermöglicht einen, dass diese ganzen Security-Flaws zu finden, bevor jemand die aktiv ausnutzt. Aber da muss man jetzt halt mit loslegen. Also man darf nicht warten, bis die erst gefunden wurden von irgendwelchen Black-Hat-Hackern oder so, die böse Absichten haben. Und das meine ich mit dem Wettrüsten. Also das ist jetzt, die Sachen sind jetzt in freier Wildbahn und wir sprechen über potenzielle Milliarden von anfälligen Geräten. Und jetzt ist der Zeitpunkt, wo man diese Security Audits machen sollte für diese Geräte, wenn da irgendeine Art Risiko besteht. Und ja, das wird nicht besser werden in naher Zukunft. Also du meinst, dass ich auch als böser Mensch denke ich mir, ich möchte mal irgendwo eindringen und dann gucke ich mir irgendwie irgendeine Software aus, die da läuft und klopfe die dann auf Sicherheitslücken ab und gucke, ob ich da dann irgendwie reinkomme. Absolut. Und das kann halt ein Software-Stack sein, der auf irgendeinem Server läuft natürlich. Also das kennen wir jetzt ja schon, das gibt es ja schon länger. Aber es kann halt auch einfach, das war diese Erkenntnis quasi diesem Experiment. Es kann halt auch irgendeine crazy 8-Bit-Embedded-Hardware mit einer Architektur, die eigentlich seit den 90ern nicht mehr relevant ist, sein oder so. Jetzt, keine Ahnung, im Kontext Schließsysteme oder Alarmanlagen oder was auch immer es ist. Es kann auch ein Herzschrittmacher oder you name it sein. Aber ich habe das noch nie ausprobiert, weil ich dann kein böser Hacker bin. Aber erlauben diese aktuellen Systeme das, dass man sagt, so, ich möchte gerne hier bitte Also okay, man kann natürlich sagen, ich bin Urheber dieses Softwareprojekts, bitte klopft das auf Sicherheitslücken ab. Gut, ich habe es mir gerade selbst beantwortet, so wird man das wahrscheinlich machen. Im Moment geht das ja. Oder man sagt, meine Großmutter war Security-Researcherin und die hat mir immer zum Einschlafen Security Flaws vorgelesen und Maschinencode analysiert. Nein, Spaß beiseite. Also diese, ich weiß gar nicht, ob man dafür so ein Oldschool-LLM-Sandboxing-Hack braucht, um quasi die Guardrails der Sprachmodelle auszuschalten. Und es gibt auch genügend unzensierte Sprachmodelle. Gerade diese Woche sind jetzt zum Beispiel von Qwen 3.5 unzensierte Versionen auf Hugging Face gepostet worden. Und naja, damit kann man schon, da geht schon eine gewisse Gefahr von aus, von diesen Sachen. Also man könnte jetzt da auch, ich will den Leuten keine Ideen geben, aber man könnte da auch sich ein Rezept machen lassen, wie man jemand betäubt oder keine Ahnung, wie man eine Biowaffe baut oder wie man eine schmutzige Bombe baut oder was auch immer. Ich versuche mal wieder was Positives zu finden. Das fällt mir nämlich auch gerade ein, dass ich das diese Woche gelesen habe. Dass Leute, weil du halt auch Opus genannt hast, weil dass Leute mit Opus 4.6 und Claude Code irgendwelche komischen Exe-Files, weil ich meine, jeder kennt das. Man hat irgendwelche Geräte, die, keine Ahnung, irgendwie so einen proprietären, die irgendwie eine proprietäre Windows-Software verwendet haben. was weiß ich, irgendwie fällt jetzt gerade nichts ein, aber irgendwie ein Spielzeug oder so. Also ich habe zum Beispiel so ein digitales Namensschild. Das ist jetzt ein schlechtes Beispiel, weil da gibt es tatsächlich Treiber für, auch gibt es irgendwie so einen Open-Source-Treiber für, aber sowas in der Art, wo es halt nur irgendwie so eine weirde, alte Windows-Software für gibt, der man sowieso nicht vertraut, man aber kein Windows mehr benutzen will, dann kann man tatsächlich, dann haben Leute, also ich habe es selber noch nicht gemacht, aber ich habe es jetzt schon öfter gelesen, dass Leute, dann die Exe einfach auf Claude Code draufgeschmissen haben und das reverse-engineert haben. Und da dann irgendwas für Linux oder für macOS draus gemacht haben. Genau. Minus diese ganzen etwas weirden Sachen, denen man nicht so ganz vertraut, was da noch alles in den, gerade bei so, es gibt ja oft so chinesische Gadgets. Also ich habe zum Beispiel so eine Kamera, die man sich ins Ohr steckt um irgendwelche Sachen da, keine Ahnung, in das Korp. Ja, eigentlich eine Endoskopkamera, aber die wird damit geworden. Und ich muss sagen, der traue ich halt nicht so ganz über den Weg. Und ja, also da kann man dann halt die Treiber reverse-engineeren. Und das muss ich sagen, das ist ziemlich geil. Also das ist schon ziemlich... Ja, das hat auch viele Vorteile. Ganz sicher. Ja. Und nochmal, wie krass tatsächlich Opus. Ja, wir haben jetzt oft Claude Code erwähnt. Also Codex von OpenAI soll auch ganz gut sein. Aber ich bin halt wirklich, muss ich schon sagen, Fan von Opus 4.6, weil das halt auch wirklich so ein gutes Sprachgefühl hat. Und da fällt mir auch gerade ein, beziehungsweise fällt mir nicht ein, Sondern da habe ich drüber nachgedacht, dass mir viele Leute immer erzählen, ja, und ich finde Vibe-Code auch cool, aber ich will kein Cloud-Modell benutzen. Ich will das lokal machen. Und ich habe diese Woche sehr viel mit lokalen Modellen rumprobiert. Und die sind auch gut, aber die sind leider, leider noch eine ganze Ecke von Opus 4.6 entfernt. Welche hast du denn probiert? weil ich fand letztes Mal, also dass Qwen 3.5 einem keine coolen Sehenswürdigkeiten in Hannover sagen konnte, fand ich jetzt nicht den, also das ist nicht der Anspruch, den ich an so ein Modell habe, wenn das dafür irgendwie eine C#-Klasse refaktorieren kann oder auch vielleicht eine selber coden, dann interessiert mich das schon eher privat, aber deswegen wäre ich interessiert, welche Modelle du so getestet hast lokal. Ja, ich habe Kimi K2.5. Habe ich auf dem, ja, ich habe halt gerade, habe ich ja erzählt von meinem Apple-Cluster. Also das ist halt ein Modell, was 700 Gigabyte schnellen Speicher braucht. Also ist halt auch ein bisschen, ich glaube, so viele Leute haben das noch nicht auf Consumer-Hardware ausprobiert. Aber das Ding, ich war relativ beeindruckt davon, wie gut der Sprache kann. Also das ist ja auch so, ich habe da eben Sachen gesagt, roaste mal c't-Magazin oder heise online oder so. Und dann hat er auch wirklich verstanden, was so die Spezifika dieser... Also ich finde, wenn er roasten soll, also roasten ist ja so, macht dich lustig drüber. Ich finde, da kann man immer ganz gut sehen, ob er die Kleinigkeiten checkt. Und das hat Kimi K2.5. Das fand ich faszinierend. dass das halt irgendwie so ein chinesisches Open-Weights-Modell ist, was halt wirklich so viel weiß. Weil es kann nicht googeln, weil es lief da. Wollte ich gerade fragen, also kein Tool-Calling oder irgendwas? Nein, nein, genau. Das ist nämlich auch genau das Problem. Also es hat das alles aus seinen eigenen Weights beantwortet. Und ich dachte so, wow, der kennt sich ja gut aus. Und es war auch sprachlich, fand ich, ich glaube, zu Teilen sogar besser noch als Opus 4.6. Also das fand ich beeindruckend. aber es ist komplett abgekackt auf Deutsch, was Tool-Calling anging, also es hat einfach gar nichts da auf die Reihe bekommen es kann halt mit diesem Exo zu tun gehabt haben, also dieser Software mit der ich Cluster nutze, dass da irgendwas schief ging, aber bei den Qwen-Modellen war es halt so, die haben geredet wie ja, jemand der gerade erst Deutsch gelernt hat oder keine Ahnung, eine Woche Deutsch gelernt hat, also es war wirklich grauenvoll, sprachlich Aber es konnte Tools callen, aber auch schlecht. Also ich habe es mit meiner Open-Claw-Instanz ausprobiert, weil da kann man ja einfach immer die LLMs umschalten. Und Sachen, die Opus problemlos kann, wie sowas generieren wir im Musikstück mit Udio, weil das läuft ja lokal auf diesem Rechner, haben die anderen Modelle einfach nicht auf die Reihe gekriegt und sind dann immer in so Loops reingegangen. Lange Rede, kurzer Sinn. Also ihr habt ja gehört, also Kimi hat mich durchaus sprachlich beeindruckt. Dem Tool-Calling sind wir noch nicht so weit. Aber ich habe halt immer Angst, dass Leute nur diese lokalen Modelle ausprobieren und sich dann ein Urteil bilden und sagen, ja nee, also Vibe-Coding, das ist nichts. Das kann ja gar nichts. Ich finde, es ist vielleicht auch ein komischer Take von mir, weil viele Leute ja Cloud-Modelle auch problematisch finden, aus vielerlei Hinsicht. Aber um das wirklich zu verstehen, finde ich, sollte man einmal ein State-of-the-Art-Cloud-Modell ausprobieren beim Vibe-Coden, um eine Baseline zu haben. Um zu wissen, okay, das, was mir Qwen gibt, das reicht mir absolut aus. Oder man sieht, okay, hier erkenne ich jetzt die Defizite. Weißt du, wie ich meine? Ja, absolut. Das wäre auch mein Take tatsächlich, dass man einfach beides im Auge behält. weil wir haben schon oft drüber gesprochen, die Entwicklung ist so rasant, dass sich Sachen andauernd ändern und Sachen, die vor sechs Monaten irgendwie als unmöglich galten, sind jetzt schon fast selbstverständlich bei manchen Modellen. Und also ich persönlich habe ganz gute Erfahrungen mit lokalen Modellen und bin auch immer tatsächlich sehr daran interessiert. Ja, das ist auch einfach cooler. Ja, es ist mega cool. Also wie gesagt, das ist ja auch krass, dass man einfach nur so einen Haufen, dass man eigentlich ein Computerprogramm hat, was denken kann. Bisschen übertrieben, ne? Aber was halt wirklich... Ja, aber, also das ist schon so ein magischer Moment, da bin ich komplett bei dir. Und man sollte dann aber auch nicht, jetzt genau wie du gerade gesagt hast, man sollte jetzt nicht, wenn das lokale Modell, was irgendwie noch gerade so ins VRAM der Grafikkarte reingeht, irgendwie Claude Opus unterlegen ist oder so, dann sollte man nicht darüber verzagen aus meiner Sicht, weil das ist halt der Unterschied, ne? Ja genau, das ist der Unterschied. Und na klar, also wahrscheinlich ist es, also wenn man das jetzt optimistisch sieht, hat es vielleicht immer so ein halbes Jahr Verzögerung, ne? Also dass man im halben Jahr Opus 4.6 Qualität Naja, vielleicht auch eher zwölf Monate, aber... Oder zwölf Monate, aber das wäre natürlich schon eine coole Sache, weil ich es auch ja, weil ich es natürlich auch viel, viel charmanter finde. Aber man muss auch realistisch sein. Und ich weiß halt von vielen Leuten, die nicht so einen Zugriff auf Hardware haben wie ich, die halt denken, ah ey, wenn ich jetzt endlich, wenn ich mir ganz krasse, wenn ich mir halt so eine H100 von NVIDIA kaufe oder sonstige krassen Dinger, dann kann ich genau das Gleiche machen, was Claude macht auf eigener Hardware. Und das ist leider nicht so. Es ist leider, die großen Modelle sind einfach, die Cloud-Modelle sind einfach ein ganzes Stück besser. Ja klar. Bessere Hardware-Infrastruktur und bessere Modelle, also die Closed-Modelle. Ja, aber ich finde, man hat immer so eine Sehnsucht, hatte ich auch, wenn ich einen Terabyte VRAM hätte, dann könnte ich ja krasse Sachen machen. Und ich habe es ja jetzt laufen. Also ich habe jetzt wirklich die größten Modelle, die ich finden konnte, da drauf geworfen. Und ja, es ist besser als die kleineren Modelle, aber es ist eben noch nicht Cloud leider. Aber das große Qwen 3.5, das benutzt du auch, das 120-Milliarden-Parameter-Modell. Nee, dummerweise unterstützt Exo das noch nicht. Ich hatte jetzt Coda Next. Dieses, das ist glaube ich noch Qwen 3. Ich weiß, ich weiß. Also ich würde auch gerne 3.5. Weil das 3.5er-Qwen, das ist schon das beste Open-Weights-Modell momentan, was man so hört und liest. Also Kimi und auch GLM-5, das ist nochmal eine ganz andere Baustelle. Also in dem Bereich unter, in dem Bereich, was in die GPU passt, also in dem Bereich, sagen wir mal, 16 Gigabyte oder so, Da ist dieses Qwen-Modell, von dem du redest, absolut super. Aber ich rede ja jetzt von den Heavy-Hittern. Also ich rede jetzt von jenseits der 600, 700 Gigabyte. Ja, genau. Okay, das war von mir missverständlich ausgedrückt. Ich meinte von den Modellen, die Leute mit normaler Hardware zu Hause laufen lassen können. Mit 64 oder 128 Gigabyte RAM und vielleicht 12 bis 24 Gigabyte VRAM. Da gebe ich dir absolut recht. Die sind cool. Ja, apropos Versuchgartenübergang apropos Ergebnisse die Benchmarks sind da von den ganzen neuen Apple-Produkten haben wir letztes Mal schon drüber geredet über zum Beispiel MacBook Neo und ganz interessant, ich meine hätte man jetzt auch nicht anders erwartet erwarten können für den Preis, aber die SSD ist halt deutlich lahmer als noch in ja auch in deutlich älteren MacBook Airs. Also zumindest die mit wenig Speicher. Das ist natürlich, muss man auch mal gucken, muss man auch mal die 512-Gig-Version gucken, ob die dann vielleicht schneller ist. Aber auf alle Fälle die kleineren SSD-Größen sind lahm im Neo. Und was ich richtig interessant finde, dass der SoC, also das System on a Chip, also der, früher hat man CPU gesagt, aber ist ja jetzt, also ist ja auch ein Grafikeinheim mit drin, dass die tatsächlich lahmer ist als die gleiche, mit dem gleichen Namen im iPhone 17e. Weil da irgendwie ein GPU-Kern weniger drin ist oder so. Und das finde ich halt schon irgendwie total lustig, dass man ein Notebook eine langsamere CPU hat als ein das 17e ist ja auch schon so ein abgespecktes Handy. Aber das ist halt die Welt, in der wir leben. Das ist crazy, oder? Also, ja, wir leben in der Welt, wo man eigentlich, also wo Notebooks einfach glorifizierte Handys sind und noch nicht mal die Top-Contender so leistungsmäßig. Ja, aber der Preis ist halt echt krass gut vom MacBook Neo. Und am Anfang hat es mich gar nicht interessiert, aber jetzt, wo ich drüber nachdenke, würde mich es echt mal interessieren, so ein MacBook Neo neben einem Windows-Notebook für den gleichen Preis zu sehen. Ja, für viele Leute reicht es halt auch einfach. Und da kann ich auch gleich wieder zu dem Take, den ich mal vor ein paar Folgen rausgehauen habe, zurückkehren, dass ich ja glaube, dass die Zeit, wo wir die Compute-Power zu Hause hatten, sich dem Ende rapide zuneigt. Ja. Da passen ja solche Geräte zu. Jetzt hast du dir ein bisschen widersprochen, weil du ja gerade die ganze Zeit gesagt hast, wie cool das ist, lokale Modelle auszuführen. Ja, aber das ist ja, guck dir doch mal die GPU-Preise an. Also das ist jetzt ja lange nicht für jeden irgendwie. Ich meine jetzt so auf Mainstream-Ebene. Ja, aber da für solche Zwecke kommen wir jetzt auch, kommt jetzt auch immer öfter so Spezial-Hardware raus. Also zum Beispiel von AMD dieses Trix-Halo-Kisten. Ja, die brauchen auch Arbeitsspeicher. Die brauchen auch Speicher, das stimmt. Und das ist auch teurer. Aber ich finde, da passiert schon viel. Also auch, ich gebe dir irgendwie recht, aber irgendwie möchte ich da auch die Hoffnung noch nicht aufgeben, dass es da immer, da wird es immer Leute geben, die sagen, ich will meinen Compute zu Hause ausführen. Ja, ich zum Beispiel. Also bitte nicht falsch verstehen. Das ist nicht das, was ich möchte. Das ist das, was ich beobachte. Also was klar ist, dass es viele Player gibt im Markt, die das gerne wollen natürlich, die halt davon profitieren, aber solange wir halt noch nicht so richtig dolle Monopole haben, wird es auch immer Leute geben, die sagen, nee, wir machen da jetzt mal was anderes, wir gehen jetzt mal wieder auf lokal und ja, solange es die noch gibt und ich meine, es kommen dann ja auch immer wieder so Sachen, mit denen man gar nicht gerechnet hat, wie zum Beispiel vor, ist ja auch schon ist das schon zehn, über zehn Jahre halt, Raspberry Pi, solche Geschichten. Also, ne? Ja, das ist auch, ist alles cool und das entspricht mehr diesem Bilder und Hacker Spirit, Raspberry Pi und solche Sachen, aber durch diesen Squeeze, den wir gerade haben in diesem ganzen PC und Computing zu Hause Markt, dass halt einzelne Ressourcen so krass verknappt sind, dass die Preise halt einfach komplett durch die Decke gehen und dass der den ganzen Markt halt runterzieht, weil halt natürlich, wenn die Leute keinen Arbeitsspeicher leisten können, kaufen die auch keine Mainboards. Und wenn die keine SSD kaufen können und jetzt auch seit neuestem keine Festplatten, dann werden halt keine PCs mehr gebaut zu Hause bei den Leuten, was wiederum halt den Absatz von allen anderen Komponenten, die ja theoretisch verfügbar wären, begrenzt einfach. Und da sehe ich einen schlechten Trend im Moment gerade und der, man darf ja glaube ich nicht Krieg sagen, es ist auch eine militärische Sonderoperation oder so. Also das, was da gerade im Iran und so weiter geht, das hilft alles nicht. Das ist so ein allgemeines, so seit Corona haben wir so ein allgemeines Problem, dass Dinge, wir sind ja, wir kommen ja aus einer Zeit, wo man immer alles kaufen konnte und alles war immer verfügbar, wenn man bereit war, den Preis dafür zu bezahlen. Und jetzt sind wir die letzten Jahre in so einer Knappheitsspirale irgendwie drin. Und also, wie gesagt, ich Ich wünsche mir nicht, dass das die Zukunft des Computings zu Hause bestimmt, aber ich sehe da schon großes Potenzial für Auswirkungen, die man jetzt zum Teil schon spürt. Naja, vor allem wenn die KI-Blase platzen sollte und sie dann diese unfassbaren Recheneinheiten in den Rechenzentren drin haben, dann werden sie natürlich anfangen, die zu vermieten und das auch billig. Da werden sich natürlich viele Leute überlegen, was sie machen. Aber trotzdem, ich würde mich wirklich interessieren, wie so ein MacBook Neo gegen so ein Windows-Ding mit dem gleichen Preis aussehen würde. Also ich weiß es auch tatsächlich nicht. Das ist ein ehrliches Interesse, ehrliche Neugier. Ein bisschen Angst habe ich aber davor, weil wenn jetzt das MacBook deutlich besser abschneidet, dann kommen wieder alle und sagen, wie Apple-Fanboys und so. Und das finde ich halt mega lustig, weil ich halt Jahre auch so immer so ganz suspekt fand, wenn Leute so Apple-Fans waren. Ja. Ich aber jetzt halt so graduell, da ich halt einen YouTube-Channel mache, mir einfach blöd ein iPhone gekauft habe, weil das halt tatsächlich bessere Videos macht. Ist halt so. Und jetzt hänge ich da so ein bisschen im Ökosystem und auf einmal bin ich jetzt Apple beschimpfen mich Leute als dem Trommel, nicht das Apple-Fanboy. Das finde ich, aber man, also ich, für die Leute da draußen wirklich ganz von Herzen, ich bemühe mich extrem doll, alle Ökosysteme gleichwertig zu verwenden. Und ich benutze Linux, ich benutze macOS, ich benutze Windows. Android, muss ich zugeben, habe ich lange nicht benutzt. Will ich aber jetzt auch mal wieder, will ich aber jetzt auch mal wieder eine Chance geben. Auf jeden Fall. Hat sich das ja auch geändert, dass die Videoqualität da jetzt besser geworden ist. Ja, also zumindest von den Kameras habe ich es schon öfter gehört. Aber ich finde auch unangenehm wird es immer, wenn es so dogmatisch wird. Man muss da irgendwie offen sein. Ich habe extra das Wort Technologie offen nicht verwendet an dieser Stelle. Aber man muss immer wieder alle paar Jahre mal gucken, was die anderen Hersteller haben. Zu diesem Notebook-Test, ja, kann sein, dass Apple da jetzt on top rauskommt, aber ich bin ganz sicher, dass Windows 12 wird's auf jeden Fall richten mit Copilot in allem drin und komplett auf AI basiert und wahrscheinlich auch gevibe-coded. Who knows? Nein, Scherz. Die merken alle, was ist da los bei Microsoft? Also es passiert, ist jetzt in meiner beruflichen Karriere schon so oft passiert, dass ich gedacht hab, was machen die da bei Microsoft? Wieso? Also auch mit diesem Recall-Desaster, ne? Das war so mit Ansage, dass sie da diese Funktion gepusht haben, die keiner haben will und die so sicher zum Skandal führt und dass sie das alles immer so vertändeln da und nicht mal eine klare Aussage machen und alle hassen Copilot, ist leider so und anstatt jetzt zu sagen, ja ey, wir haben euch gehört, Copilot ist so, sagen sie jetzt, ja jetzt kommt Windows 12 mit noch mehr Copilot. Also das ist eigentlich der Aspekt, der mir ein bisschen Sorge bereitet. Tatsächlich bei denen, wo ich so denke, ist alles okay bei euch, dass sie halt so komplett blind für diese PR-Debakel sind, in die sie die ganze Zeit quasi sehenden Auges reinrennen. Also, oder nicht sehenden Auges halt eigentlich. Also Sachen, die du, für dich und mich irgendwie klarer zu sein scheinen. Ich meine, es ist jetzt auch nur ein Gerücht mit diesem Windows 12, aber das soll halt ohne NPU, also ohne so einen dedizierten KI-Chip nicht mehr funktionieren. Und das ist halt auch so eine Aussage, die die Leute so triggert, weil was hat denn mein Betriebssystem mit KI zu tun? Ich muss das doch auch ohne KI benutzen können. Ja und wie viele Milliarden Tonnen Elektroschrott entstehen dadurch wieder auf einen Schlag? Also es ist auch kein Wunder, dass die ganzen Leute zu Linux rübergehen aus dem x86-Lager. Ja und das ist auch so krass, dass man irgendwie denkt, dass Linux eigentlich gerne will, dass alle Leute zu Linux umsteigen. Das ist eigentlich auch so eine Verschwörungstheorie, dass Microsoft irgendwie... gekocht irgendwie. Aber wie oft wir da auch schon bei c't drüber geredet haben, dass wir einfach nicht verstanden haben, wie irgendwelche Entscheidungen. Und manchmal denkt man, ja gut, vielleicht haben die auch einfach gar nicht nachgedacht. Oder vielleicht ist es auch so, dass die so in Hierarchien hängen, dass dann irgendjemand, irgendeine Person, die gar keine Ahnung hat, die entscheidet irgendwelche Dinge und ganz viele Leute, die so ein Korrektiv wären und sagen würden, nee, das ist nicht so eine gute Idee. Die trauen sich es einfach nicht, weil die irgendwie so eine toxische Hierarchie da haben. Keine Ahnung. Ich glaube auf gar keinen Fall, dass alle Leute nichts merken, die bei Microsoft arbeiten. Ganz sicher nicht. Da sind sicherlich super viele Leute, die genau wissen, was hier passiert. Die also wahrscheinlich voll auf und die ist alles genauso sehen wie wir. Aber die Realität ist, dass Microsoft sich ständig ins Knie schießt. Ja. Ganz komisch. Ja, Mensch, Microsoft, haben wir, würdest du lieber... Diese Woche haben wir ein schönes Würdest du lieber. Und zwar würdest du lieber nie wieder einen Passwortmanager oder Passkeys benutzen dürfen und all deine Passwörter auswendig lernen, oder bei jeder Website die AGBs vollständig laut vorlesen müssen, bevor du sie akzeptieren kannst. Dieses würdest du lieber kommt von Romain. Danke, Romain. Ja, also ganz klar müsste ich dann den sauren Apfel beißen und auf den Passwortmanager verzichten. Es gibt ja diese Oldschool-Technik, dass man ein möglichst komplexes Passwort hat. Und dann immer eins, zwei, drei diskriminiert. Dass du dann zum Beispiel bei Deutsche Bahn dann DB hinterschreibst und bei, keine Ahnung, Heise HS oder so. Oder noch ein Ausrufezeichen. HS, ja. Okay, hast du gesagt. Ja, sorry. Habe ich jetzt gar nicht den Witz verstanden. Was ist HS denn? Das war früher, wenn du mal Counter-Strike gespielt hattest früher, dann wirst du wissen, dass das HS, ich sag mal eine andere, die HS ist die Abkürzung für Huso. Mit dieser Info kannst du machen, was du willst. Oh, jetzt wird die Folge wieder als explicit von Apple. Das ist sofort ab 16 und älter, diese Folge. Ich hab tatsächlich noch nie in meinem Leben Counter-Strike gespielt. Wurde ich schon neulich schon von Shahin outgecalled für. Muss ich vielleicht einfach mal, müssen wir mal ein 3003-eigenes. Sollen wir mal 3003-mäßig machen? Ja, weil das eigentlich wirklich ein cooles Spiel ist, aus meiner Sicht, weil es so einfach ist und so schnell. Und jede Runde werden die Karten neu gemischt und du kannst auch noch so ein Skiller sein. Das kann halt sein, dass irgendein Noob mit ein bisschen Anfängerglück die Runde trotzdem gewinnt. Irgendwie, ich weiß auch nicht. Ich meine, jetzt fällt es mir gerade wieder ein, das ist so traumamäßig, dass ich das vor 15 Jahren oder so, ich glaube, ich habe das einmal probiert, das war aber auch irgendwie im beruflichen Kontext mit so Counter-Strike-Profis und dann war das so, dass immer, wenn es losging, habe ich überhaupt nicht gecheckt, war ich immer sofort weg. Also so bam, weg. Was ist passiert? Bam, weg. Also ich habe überhaupt nicht, ich konnte das Spiel überhaupt nicht verstehen und spielen, weil ich immer sofort abgeschossen worden bin. Okay, wenn du gegen zu gute Leute spielst, dann ist das so und ich bin auch nicht gut. Also ich habe das früher mehr gespielt. Heutzutage spiele ich das nur noch alle paar Jahre mal und dann, wenn, dann mit ein paar Kumpels. Das wusste ich gar nicht über dich. Dass du competitive Shooters gespielt hast. Ich habe nie kompetitiv gespielt, aber das war tatsächlich, das war so die Zeit, wo so die ersten Ligen und so weiter so gegründet wurden und ich hatte auch Freunde, die, wie heißt das, ESL? Ich habe null Ahnung. Ich werde auch wieder in den Kommentaren vernichtet werden dafür. Aber die haben in irgendeiner dieser Ligen gespielt und waren auch ganz gut. Die waren auf jeden Fall Top Ten. Shoutout an Skerdem-Clan aus Hannover. Skerdem? Skerdem. Das waren Reggae-Heads. Ah ja, okay. Okay, okay. Reggae und Counter-Strike. Ist auch eine gute Kombin. Auf jeden Fall. Das ist so wie Upper und Downer nehmen oder so. Aber jedenfalls, dass mir die AGBs laut vorgelesen werden und ich die komplett lesen müsste, würde ich komplett durchdrehen. Wie ist das bei dir? Ja, ich würde das glaube ich auch genauso wie du machen. Wobei ich schon ziemlich Passwortmanager abhängig bin. Aber wenn ich jetzt die AGBs wirklich vollständig laut vorlesen müsste, bevor ich sie akzeptieren kann, da sprechen wir von Mann, Wochen oder sogar Mann, Monaten wahrscheinlich. auf die Lebenszeit bezogen. Also das, nee. Nee, dann lieber wieder... Das steht in keinerlei Verhältnis. Lieber wieder die guten alten Passwort-Best-Ofs. Ich habe ja mal im Krankenhaus in der IT als Zivildienstleistender gearbeitet und daher kenne ich immer noch die Best-Of deutsche Amtsstuben-Passwörter, zum Beispiel Evergreens wie Sommer, Urlaub, Feierabend, Sonnenschein. war auch sehr beliebt. Wieso wusstest du die? Weil du die im Klartext lesen konntest? Oder was? Nee, die wurden auch gerne mal auf Post-its geschrieben und die dann an den Monitor geklebt wurden oder unter der Tastatur lagen oder so. Also wenn man mal an irgendeine Workstation ran musste und da war gerade keiner, hat der Blick unter die Tastatur hat schon erstaunlich oft geholfen. Oh Gott, ich würde jetzt fast denken, dass es wahrscheinlich heute immer noch vielen Umgebungen so ist und das bei mir nur nicht so ist, weil ich halt so will ich bei c't arbeite. Naja. Was gibt's noch? Du hattest noch ein paar Sachen notiert, glaube ich, oder? Ja, eine Sache, weil wir auch neulich mal drüber gesprochen hatten und du ja auch immer nicht müde wirst, die Wikipedia als Bastion des Open Webs zu loben, was auch absolut richtig ist, gab es letzte Woche eine kleine Meldung. Und zwar natürlich hat nicht nur GitHub Probleme mit AI-generierten Pull Requests, also Open-Source-Projekte auf GitHub genau genommen, sondern natürlich hat Wikipedia das gleiche Problem. Und das wurde unter anderem nochmal verschärft durch eine Organisation, die OKA, Open Knowledge Association. Das ist eine Organisation, die sich zum Ziel gesetzt hat, die Wikipedia zu verbessern. Ab und zu schießen die aber anscheinend etwas übers Ziel hinaus. Und so haben die halt eine Initiative gestartet, um mehr Übersetzungen für populäre Wikipedia-Artikel zu erzeugen. Und dafür haben sie einfach so Bounties quasi ausgelobt auf ihrer Seite. Und die waren relativ niedrig. Und dadurch haben sie verstärkt Leute rekrutiert aus Niedriglohnländern, die diese Übersetzungen gemacht haben. Und die haben auch vorgegeben, dass man die ruhig mit AI machen soll. Aber man soll die natürlich auch dann hinterher selber überprüfen. Und wenn die Leute aber nicht die Sprachkenntnisse haben, um das vernünftig überprüfen zu können, also wenn die jetzt den auf Englisch übersetzten Artikel gar nicht korrigieren können, dann führt das zu Sachen wie in diesem Fall, also da sind massiv, ist massiv halluziniert worden und Quellen sind vertauscht worden, ganze Absätze irgendwie halt erfunden. Und also das war nicht so gut und hat tatsächlich dazu geführt, dass Wikipedia da jetzt neue Regeln und Sicherheitsmechanismen speziell für einführen musste. Wikipedia weiß das schon, dass es nie irgendwelche monetären Belohnungen ausgelobt hat für irgendwelche Sachen. Das war ja schon immer so. Das ist, glaube ich, echt eine schlechte Idee. Ich glaube auch, und diese OKA, das ist auch ganz lustige Randinformation, die empfehlen das, wie gesagt, explizit AI zu benutzen und bis vor ein paar Monaten haben die auch gesagt, man soll Grok dafür benutzen. Oh Mann, warum das denn? Ja, weiß auch nicht. ist auch nicht so richtig. Vor allen Dingen vor dem Hintergrund, dass Elon Musk gesagt hat, dass Wikipedia woke ist und dass man eigentlich eine alternative Wikipedia bauen soll. Ich habe es nicht mehr ganz korrekt in Erinnerung. Doch, doch, Grokipedia hat er jetzt. Grokipedia. Die eigentlich nur aus Wikipedia-Artikel, weil leider darf man das ja, oder was heißt leider, aber du kannst ja einfach Wikipedia-Artikel ist ja Open Source quasi irgendwo anders verwenden. Deswegen gibt es ja auch so kuriose Spezial-Wikis überall. Ja, und haben einfach die Wikipedia in die Grokipedia reingenommen und dann einfach eine KI alle vermeintliche Wokeness daraus geschrieben. Also es ist richtig... Was für eine grandios dumme Idee. Das kann man... Das kann man durchaus so sagen. Ja, nee, schau, ich hoffe, dass die Wikipedia sich dagegen zur Wehr setzen kann. Leider funktionieren ja diese Erkennungstools. Das war ja früher, also ich bilde mir ein, dass ich es immer noch erkenne. Also gerade auf Deutsch erkennt man, finde ich, LLMs immer daran, dass sie sagen, das ist keine Katastrophe, das ist ein, also immer dieses, das ist kein dies, sondern ein, das ist kein das, das ist ein, diese Gegenüberstellung. Und natürlich an diesen M-Dashes, an diesen komischen Gedankenstrichen, aber leider ich habe ja gerade gesagt, wie beeindruckt ich von Kimi K2.5 von der sprachlichen Fähigkeit bin, die schreiben inzwischen sehr menschlich, dass ich es bei diesen Modellen nicht mehr erkennen kann. Die Leute benutzen ja dummerweise einfach die kostenlose Version von ChatGPT und das kann man halt ganz gut erkennen, aber wenn die Leute ein bisschen wissen für welches LLM für was, dann wird das schwierig und automatische Erkennung. Ich glaube nicht, dass das funktioniert. Ja, also sind wir auch wieder beim Thema Wettrüsten. Also wenn halt Kriterien, die bisher noch nicht zur Bewertung von sowas herangezogen wurden, auf einmal da Relevanz bekommen, dann ist es nur eine Frage der Zeit, bis irgendjemand eine LoRA baut, mit der man den Output so transformieren kann, dass diese Muster wieder künstlich erzeugt werden oder unterdrückt werden, je nachdem ob die positiv oder negativ ausgewertet werden. Schwierig. Schwierig. Ja, schwierig auch, dass das neue Feature von den Meta-Smart-Glasses namens Name Tag, was eine Gesichtserkennung ist quasi, die in der Cloud stattfindet, damit ihr Namen angezeigt bekommt für Leute, die ihr durch eure Smart-Glasses betrachtet. Ja, also als Europäer, so datenschutztechnisch, kriege ich da gleich so ein bisschen Bauchschmerzen. Zum Glück hat ein findiger Entwickler namens Yves Jean Reno auch eine App jetzt für Android zumindest erstmal bereitgestellt namens Nearby Glasses. Und die warnt euch davor, wenn jemand mit Smart Glasses in eurer Umgebung ist. Und hat selber auch in einem Interview mit der New York Times gesagt, dass das quasi sein kleiner Akt des Widerstands ist. Und er das nicht einfach so hinnehmen will. Ja, absolut. Also ich finde das auch wirklich krass, dass man diesen Brillen halt nicht ansieht, dass sie dich filmen. Oder auch, dass sie den Ton aufnehmen oder so. Und ich möchte das einfach. Also niemand möchte das. Und was mir dazu gerade einfällt, was ja auch wirklich, wo mich wundert, dass es nicht ein größerer Skandal war, dass, ich weiß nicht, hast du das mitgekriegt, dass es so eine schwedische Recherche gab, dass es in irgendwelchen afrikanischen Büros, dass da die ganze Zeit die Streams von diesen Meta-Glasses, von Menschen ausgewertet werden. Und die sich da halt die ganze Zeit, keine Ahnung, Sex, Gewalt oder was auch immer da angucken. Und ich meine, wie intim ist das denn bitte? Also Leute benutzen die ja als Alltagsbrille auch. Die machen da ja Stärke rein und streamen da die ganze Zeit ihr Leben. Und das gucken sich dann so fremde Leute an. Puh. Ja, also wenn das nicht dystopisch ist. Das ist straight Black-Mirror-Folgenmaterial, also oder? Ja, absolut. Und das wird halt von, die versuchen da halt, also was sie da jetzt genau mit vorhaben, keine Ahnung, um wieder irgendwelche KIs zu trainieren oder Roboter oder so, aber auf alle Fälle sind das irgendwelche externen Auftragnehmer, also irgendwelche externen Arbeitnehmer in günstigen Ländern, also was was Arbeitskosten angeht und die müssen sich da diesen Kram angucken. Ja, auf ähnliche Firmen hat ja Meta schon lange gerne zurückgegriffen, auch wenn es um Flagging von Content gab mit missbräuchlichen Inhalten und Gewaltinhalten und so weiter. Also alle diese Sachen, die da so potenziell geflaggt wurden, wurden ja gerne von so Drittdienstleistern in Nordafrika ausgewertet, zumindest für Europa. Ja, genau. Und Meta sagt halt, sie wollen damit die Nutzererfahrung verbessern. Das ist ja immer so das Standard-Argument. Und die Daten werden zuerst gefiltert, um die Privatsphäre der Menschen zu nutzen. Aber wenn man diese Recherche sich da anguckt, vom Svenska Dagbladet, dann, ja. Und ich bin nicht so ein Extrem-Datenschutz-Typ. Aber das hat mich erschüttert, muss ich sagen. Also für mich sind diese Brillen echt No-Go. ich habe ja auch früher mit der Google Glass und so oft rumprobiert und so, aber ich habe es wirklich live erlebt, wie unsympathisch man sich gegenüber seinem Umfeld macht, also dass Leute das wirklich, die sehen von Weitem her, jetzt hat er wieder seine scheiß Brille auf, wir wissen nicht genau, also auch die haben ja zum Teil so ein Racket, so eine LED oder so, aber das weiß ja auch jeder, dass man das einfach umgehen kann, von mir aus da einen schwarzen Klebestreifen drauf macht oder whatever, dass die Leute so richtig angewidert davon sind, wenn ich da diese Brille aufhabe und sich auch mir gegenüber anders verhalten natürlich. Zurecht, also du willst ja auch nicht, keine Ahnung, wenn du jetzt beim Feierabendpils mit Kollegen stehst oder so, dann würdest du auch genauso reagieren, wenn jemand mit einem erhobenen Handy, der dich offensichtlich filmt, da ankommt und das ist ja dasselbe in grün, nur ein bisschen dezenter so, aber natürlich hat da keiner Bock drauf und wir haben ja auch so viel Kameras schon überhaupt im öffentlichen Raum und dann gibt es jetzt auch noch diese Sachen, worüber wir ja auch schon gesprochen haben, wie Vernetzung, massive Clustering von Nest und diesen anderen Kameras, ich weiß gar nicht, wie heißen diese ganzen Startups oder es sind ja schon lange keine Startups mehr, aber diese ganzen Ring, genau Ring, die habe ich gesucht von Amazon. Also diese ganzen Tür und Grundstücks und Wildkameras und wie die ganzen Subgenres heißen. Das sind ja alles Kameras, die überall im halböffentlichen oder öffentlichen Raum aufnehmen. Und ich weiß nicht, ob dann jetzt jeder noch eine Kamera auf seinem Kopf braucht irgendwie extra, um noch mehr Bildmaterial zu generieren. I don't know. Dass Meta natürlich an den Daten Interesse hat, das wissen wir ja. Ja, das glaube ich. Ja, aber auch ganz konkret, dass natürlich viele Leute sagen, das mit der KI erstmal so nicht mehr so schnell weiter geht, weil wir brauchen ein Weltmodell. Wir müssen, also die KI weiß halt nicht, was passiert eigentlich, wenn man, weiß ich nicht, ein Glas, das weiß die KI, aber was passiert eigentlich, wenn man ein Objekt, was so und so aussieht, aus so einer Entfernung fallen lässt, also was Kinder halt lernen, das weiß die KI halt nur theoretisch und wenn es halt wahnsinnig viel Alltags-Videomaterial gäbe, dann könnte man halt so ein Weltmodell trainieren. Aber soweit geht die Liebe zu KI nicht, dass ich gerne mein Leben filme und vor allem will ich das nicht, dass dann irgendwelche Leute sich diese Sachen angucken. Also ich finde so LLMs trainieren mit meinen Daten, finde ich auch schon problematisch, aber finde ich viel weniger problematisch, als dass ich mir vorstelle, dass sich Menschen das angucken und, keine Ahnung, mich auslachen oder sagen, guck mal wie, das und das oder so. Also das ist ja so eine Grundangst von Menschen. Ja. Oder? Oder bin ich da jetzt irgendwie komisch? Nein, überhaupt nicht. Und wir in Europa auch haben ja einfach ein starkes Empfinden für Privatsphäre und Verletzungen unseres privaten Raumes und das finde ich auch gut. Also so sind wir halt erzogen und sozialisiert und das ist auch was, was aus meiner Sicht erhaltenswert ist. Und wir haben ja eh immer viel diese AI-Welde, also diese ganze, was das jetzt alles an Veränderungen bringt, gesellschaftlich und politisch und überhaupt im Alltag der Menschen. Und vielleicht, bevor wir das Weltmodell bauen und dazu irgendwie alle Brillen-Recordings der Gesamtpopulation auswerten. Vielleicht konzentrieren wir uns kurz mal einen Moment darauf, irgendwie das, was wir jetzt schon haben, AI-mäßig sinnvoll zu implementieren, sodass es halt auch einen gesellschaftlichen Nutzen bringt und aus diesem Hype-Thema-Bereich vielleicht verschwindet. Und einfach, also da ist noch so viel Potenzial, dass wir, glaube ich, dieses Wettrüsten, Das Wort habe ich jetzt inflationär oft verwendet in dieser Folge. Aber dass wir das AI-Wettrüsten jetzt, was das Weltmodell angeht, vielleicht mal kurz pausieren könnten. Aber ich bin mir natürlich klar, wie naiv dieser Gedanke jetzt im Kontext von Kapitalismus und Machtpolitik ist und dass das natürlich nicht passieren wird. Ja. Ja, okay. Jetzt sind wir hier wieder schön am Ende. In Doomsday Territory. Genau, nochmal einen kleinen Dip in die Stimmung. Noch eine Sache, die AI anscheinend nicht, worüber AI anscheinend noch nicht genug weiß, ist, wie man englische und anderssprachige Serien gut übersetzt nach Deutsch. Und das hat dazu geführt, dass die Firma Netflix jetzt eine neue Initiative gestartet hat, wo sie von allen deutschen Synchronsprecherinnen verlangen, dass sie ihre Stimmaufnahmen zum Training von AI-Modellen freigeben. Ah ja, guck mal. Ja, und da hat natürlich... Haben die sich ja total Bock drauf, oder? Haben die richtig Bock drauf. Die ganze Branche ist hellauf begeistert und der Verband deutscher Sprecherinnen hat auch dazu ein Rechtsgutachten in Auftrag gegeben mit dem Ergebnis, dass zentrale Klauseln dieses Vertrags unwirksam und sogar rechtswidrig sein sollen. Okay. Aber ist das nicht in den USA auch, also war das nicht der Gründe, einer der Gründe für diese Drehbuchautorenstreiks? Für die Drehbuchautorenstreiks und auch für ihr SAG, also Screen Actors Guild of America. Da geht es auch im Moment politisch viel um die sogenannte Digital Likeness, also das digitale Antlitz, könnte man sagen. Und dass halt Schauspieler nicht einfach durch digitale Stand-ins ersetzt werden dürfen. Und das ist schon gängige Praxis tatsächlich bei Komparsen geworden. Dass halt in modernen Komparsenverträgen, also wenn Leute irgendwo im Hintergrund von irgendeinem Bild in einem Film rumstehen, dass früher diese Jobs zum Teil mehrtägig waren, weil halt die Szenen über mehrere Tage hinweg gedreht wurden. Und heutzutage ist es eher gängige Praxis, dass man mit dem Arbeitsvertrag seine Digital Likeness freigibt und dann wird man genau noch einen Tag gefilmt und danach wird der Komparse digital erzeugt. Je nachdem, wie prominent der im Hintergrund zu sehen ist. Ja, und das Problem haben wir jetzt auch bei diesen Synchron-Jobs in Deutschland, was ja eine große Nummer ist in Deutschland. Ich bin ja auch gar nicht so Fan, ehrlich gesagt. Ich gucke ja alles viel lieber auf Englisch oder im Originalton mit deutschen oder englischen Untertiteln. Aber ja, die Sprecher, zum Beispiel Carlotta Pal, bekannte deutsche Synchronsprecherin, hat gesagt, wenn man ins Studio kommt und nicht unterschreibt, muss man wieder gehen. Und Netflix droht indirekt damit, dass wenn die Sprecherinnen diese Verträge nicht unterzeichnen und dieser Verband der deutschen Sprecherinnen quasi dagegen lobbyt, dass sie dann gezwungen sein könnten, Serien nur mit Untertiteln zu zeigen. Was ich ja persönlich gut fände. Die heißt übrigens Carlotta Pal. Carlotta Pal, oh, da habe ich wohl einen Transkriptionsfehler gemacht. die Stimme von Eleven in Stranger Things. Stranger Things. Ja, ich meine, Netflix hat da natürlich ein gutes Druckmittel. Das dann halt auch die, ich meine, man würde sich natürlich wünschen, dass die Synchronstudios dann sagen, nee, nicht mit uns, aber die brauchen halt die Aufträge. Schwierig. Ja, ich meine also, aber die Synchronstudios, die werden doch auch durch diesen Schritt ersetzt. Ja, klar. Genau. Aber weißt du ja, wie die Welt ist. Die ist halt nicht so langfristig ausgerichtet, sondern eher so, oh nein, wir verdienen jetzt kein Geld mehr, lass uns da mal irgendwas gegen tun. Weiß ich nicht. Finde ich auch schwierig. Ich muss auch sagen, ich finde das mit diesem, ich weiß, dass da Deutschland sehr stolz drauf ist, auf seine Synchronisierung. Und ich fand das, also man sagt ja immer, keine Ahnung, Bud Spencer-Filme und was ist es noch? so Monty Python Sachen. Da muss ich sagen, ich hab mal Monty Python wie heißt das nochmal, dieser Religionsfilm, ach das Leben des Brian, hab ich mir dann mal als ich dann gut genug Englisch konnte, auf Englisch im Original angeguckt und muss sagen, ich fand den in Deutsch lustiger. War schon, oh, oh, das ist ein Hot Take auf jeden Fall. Guck dir den mal an, er ist ein Take auf jeden Fall. Aber ich finde man hat aktuell das jetzt schon doll gemerkt, dass die Synchronisierung dass da nicht mehr so viel Energie reinfließt. Und ich finde es, ich sage ganz ehrlich, ich kann mir das nicht anhören, weil das so unnatürlich ist. Ich habe gerade diesem Impuls widerstanden, das nachzuahmen. Aber dieses, oh mein Gott, was ist da passiert? Oh mein Gott. Da gibt es so einen guten Insta-Account, den verlinke ich mal in den Shownotes. Ja, da gibt es mehrere, die das machen. weil das ist so unecht und ich kann mir das nicht geben auf jeden Fall. Aber trotzdem verstehe ich natürlich, dass das halt ein Beruf ist, den Leute machen. Und vor allem glaube ich auch nicht, dass es durch KI besser wird. Sondern es wird dann noch schlechter. Das sind zwei verschiedene Debatten, genau. Ich bin nämlich auch kein Fan von Synchro und das hat auch negative Effekte, wie zum Beispiel, dass die Kinder in Deutschland einfach nicht so gut Englisch sprechen können, weil die nicht Englisch über Serien und so weiter lernen. Aber das sind zwei verschiedene Debatten. Ist Synchro gut? Ist sie schlecht? Ist die eine? Und sollte man alle menschlichen Arbeitskräfte durch AI ersetzen? Das ist die andere Diskussion. Das ist eine andere Diskussion. Da würde ich dir auf jeden Fall recht geben. Und würdest du sagen, sollte man oder sollte man eher nicht? Ach, wollte man eher nicht. Ich möchte übrigens noch mal betonen, ich weiß, dass das, ich habe auch schon, bin da schon oft outgecalled worden, um einen Anglizismus zu bemühen, wenn ich das gesagt habe, dass ich Synchronisierung doof finde, dass ich halt so ein Snob bin. Es hat aber überhaupt nichts damit zu tun, dass ich so gut Englisch könnte, ich habe Englisch studiert, sondern ich gucke mir auch, sondern ich gucke mir auch, ich gucke mir auch Filme in Sprachen, die ich nicht verstehe an und ich finde das ehrlich gesagt richtig cool. Ich spiele zum Beispiel Zelda Breath of the Wild mit japanischer Audiospur. Ich finde das so atmosphärisch. Ich finde dieses Spiel so japanisch. Das fühlt sich so japanisch an. Und wenn die dann da japanisch sprechen, dann steigert das meine Immersion. Und ich finde das cool. Ich gucke mir auch gerne, wenn ich, keine Ahnung, koreanische Filme gucke ich mir dann auf koreanisch an. Also ich gucke mir auch gerne dänische Filme auf Dänisch an, weil ich ja auch diese Sprache höre, es hört sich so lustig an. Und dann bin ich da mehr so embedded. Ich gucke immer alte Derrick-Folgen auf Spanisch. Nein, Scherz. Was? Wohl kann sein, das ist... Nein. Es geht ja auch wirklich darum, um den kulturellen Ort, in dem das stattfindet, dieses Format, dass es dann auch so klingt. Und ich finde, ein koreanischer Film, der ist natürlich für mich, der in Deutschland, Europa verortet ist, irgendwie exotisch. Und dann wird es für mich noch exotischer und interessanter, wenn die dann auch koreanisch sprechen. Und nicht, ja, also ich bin kein Fan auf jeden Fall. Nee, und das ist auch nicht die komplette Performance der Schauspieler, wenn die Stimme ersetzt ist. Ja, das sowieso, ja. Und die Mikrofonierung auch von diesen Synchronisations-Overdubs, die ist halt auch ganz anders und die ist jetzt so, die Stimmen hören sich jetzt wie bei uns an hier im Podcast und sind immer ganz nah und ganz laut und wenn man dann die Original-Tonspur hört von Filmen, dann merkt man, dass die Leute halt, ja, die sind halt ganz leise, wenn die weit weg sind und da ist viel mehr Umgebungsatmosphäre, Geräusche und so zu hören und also ganz anders auf jeden Fall und nicht vergleichbar und bin ich komplett bei dir und das mit dem Derrick, das war nur so ein War ein dummer Witz, weil es gibt so ein paar alte deutsche Serien, die halt unglaublich oft ins Ausland verkauft wurden. Und irgendwann habe ich zum Beispiel mal im Ausland Derrick auf Spanisch gesehen beim Zappen durch Zufall. Und da gibt es so ein paar. Haben wir noch ein Shoutout, damit wir was ein bisschen was Positives noch haben? Ja, du fragst, aber ich glaube, du hast den Shoutout. Ach ja, ich habe ja einen Shoutout. Stimmt, ich habe ja ein Shoutout, genau. Shoutout! Ich habe heute einen ganz exotischen Shoutout. So ein Hannover-Shoutout. Obwohl es das auch woanders gibt. Und zwar, mein Shoutout geht diesmal an. Murmiland. Und das ist halt, ich finde der Name. Ich wollte gerade sagen, du hast mich schon beim Namen. Ich sage auch immer gerne Wurmiland. Murmiland, Murmiland. Guckt mal auf Murmiland.de. Die Website sagt schon alles. Die sieht halt so aus wie Early, frühe 2000er. Es fehlt nur noch so ein animiertes Under Construction Banner. Aber auf alle Fälle ist das, wie der Name schon sagt, eine Murmelbahn, eine riesige Murmelbahnausstellung, die es einmal im Jahr in Hannover zu sehen und zu bespielen gibt. Also da zahlst du irgendwie, ich glaube Kinder zahlen 4 Euro oder so, also nicht so viel, zahlst du Eintritt und dann kriegst du halt so einen ganzen Haufen Murmeln und dann bist du in so einem riesigen Raum mit etlichen sehr doch kreativen Murmelbahnen und dann kannst du die Murmeln da rein schmeißen und kannst dann mit diesen Murmeln spielen. Und das ist halt ein Typ, der das macht, der das jetzt auch schon seit, ich glaube 25 Jahren oder so, baut der halt, ist das halt seine, Ordwin heißt der, Der bastelt halt seine Murmelbahn und geht damit auch auf Tour. Also das ist, also in Hannover ist wahrscheinlich die größte einmal im Jahr. Aber er geht da, habe ich gesehen, auch woanders halt hin. Also in irgendwelche anderen Städte. Und geht dann damit auf Tournee. Und ich finde, es ist halt, ja, ungewöhnlich, sage ich mal. Aber ich meine, ich mag Murmelbahnen auf jeden Fall. Die haben halt auch so eine ganz eigene Ästhetik. Das ist halt, die sind aus Holz. Ja. Und da sind immer so Figuren drin. Das sieht so ein bisschen anthroposophisch aus hier auf der Website. Du meinst so Steiner-Waldorf-mäßig? Ja, so Waldorf-mäßig. Ja, kann sein. Also das ist auf jeden Fall nicht unbedingt meine Ästhetik. Aber ich finde das trotzdem, ich finde das total cool. Ich finde es irgendwie total cool. Und ich habe mir auch, wenn ich da mal gewesen bin, hat mir das auch viel Spaß gemacht, da Murmeln reinzuwerfen. Und ich war erfreut über die Kreativität. Ich kann übrigens noch als kleiner Tipp an euch, wenn ihr zufälligerweise aus der Nähe kommt und da mal hin wollt, geht da nicht am Wochenende hin, weil das ist wirklich krass voll. Und es ist natürlich extrem laut, wenn du da irgendwie 30 Murmelbahnen in einem Raum hast und die ganze Zeit da Glasmurmeln durchpoltern und Kinder schreien. Auf jeden Fall ist das noch bis zum, diese Ausstellung ist noch bis zum 1.4. im Stadtteilzentrum Ricklingen. Ich weiß, wir sind kein lokaler Podcast, aber erlaubt es mir ausnahmsweise mal, dass ich das mal erwähne. Finde ich auch irgendwie wholesome. Würde ich auch machen, wenn irgendwas in sagen wir mal Wien wäre oder in Zürich oder so, würde ich auch Shoutout das ist mir nun heute gerade eingefallen. Ja, 25 Jahre Murmiland sehe ich auch gerade hier auf der Website. Hier habe ich gerade mal nebenbei geöffnet. Und ich sehe auch das Maskottchen Murmi von 2015. Und ja. Oh, sieht man das Maskottchen Murmi? Bisschen special. Murmi ist auf der Seite auf Objekte zu sehen, wenn du... Ah ja, Objekte in Bildern. Ja, genau. Ganz unten links. Das ist Murmi. Mit seinem Zauberhut. Okay, Murmi sieht aus, als hätte er weiß nicht, Probleme. Murmi sieht nicht so richtig happy aus. Murmi hat, glaube ich, gerade so eine düstere Phase und ich glaube, die Frau, seine Frau hat, glaube ich, die Kinder mit zu ihrer Mutter genommen, zur Schwiegermutter. Murmi geht gerade durch eine schwierige Trennung. Ja, genau. Murmi hat auch Probleme im Job und muss zweimal in der Woche zu den Anonymen gehen. Nee, sorry, das geht jetzt zu weit hier. Aber wenn man sich das jetzt so anguckt, also musst du mir doch recht geben, da hat man doch Bock, da jetzt Kugeln reinzuschmeißen, oder? Oder ist das spezifisch bei mir jetzt? Vielleicht ist es bei dir besonders ausgeprägt, aber ich bin schon nicht ganz abgeneigt, auch wenn ich direkt auf der Landingpage da dieses, das sieht so ein bisschen aus wie der Deku Tree von Zelda, wenn ich das da sehe. Da weiß man gar nicht, wo man die Murmel überhaupt hinwerfen soll, ne? Ja, ich bin auch so ein bisschen, das ist so eine wohlige Mischung aus irgendwie Interesse, Neugier und so ein bisschen Creepiness tatsächlich. Auf jeden Fall, auf jeden Fall. Auf jeden Fall. Aber ich bin nicht abgeneigt. Also Shoutout Murmiland. Geh ich einfach mal mit, ohne jemals da gewesen zu sein. Alles klar. Ich find's ein guter Throwback auch so designmäßig. Ja, sehr gut. Okay. Ja, danke fürs Gespräch. Danke euch fürs Zuhören. Und ab nächster Woche gibt es uns in Bild hoffentlich, weil wir uns gerade die ganze Zeit sagen wir mal damit auseinandersetzen, wie schwierig es ist, einen 4K-30-Stream dauerhaft, also weil unser Podcast dauert ja auch manchmal anderthalb Stunden oder so, dauerhaft irgendwo hinzuschicken, ohne, dass die Kamera überhitzt. Ich dachte, das wäre im Jahr 2026 kein Problem. Hat mich auch überrascht tatsächlich. Aber das ist offenbar ein Problem. Ich weiß, Leute da draußen, es gibt Kameras, die einen eingebauten Lüfter haben, aber das geht dann schon deutlich über die 2000 Euro und ich finde für so ein Podcast Talking Head ist das irgendwie ein bisschen heftig, da so eine Kinokamera zu kaufen. Seid gespannt, ob uns das gelingt. Ja, seid gespannt, ob uns das gelingt. No pressure, keine Versprechung. Ja, genau, das machen wir nicht. Ja, ihr Leute, schönen Danke fürs Hören, danke Chris fürs Sprechen und tschüss. Macht's gut, bis gleich. Tschüss. Tschüssi. Tschüss. 3.003, 3.003, 3.004, 3.004, 3.004, 3.004 4004
mtthy
‧