Themabewertung:
  • 1 Bewertung(en) - 1 im Durchschnitt
  • 1
  • 2
  • 3
  • 4
  • 5
Mich nervt...
#41
der grantpegel steigt - irgendwann explodiert der kessel.
in D u. Ö dauerts halt erfahrungsgemäß etwas länger - in anderen europ. ländern tut sich einiges.
Zitieren

#42
Freunde von uns sind nach Frankreich ausgewandert ans Mittelmeer. Die haben andere Probleme, aber genauso nervig.
Gruß
Arnim

Ein rein verstandesmäßiges Weltbild ganz ohne Mystik ist ein Unding. Erwin Schrödinger.
Zitieren

#43
Das Gras auf der anderen Straßenseite ist nirgends grüner....
am Ziel
Zitieren

#44
KI. Ich will es einfach nicht mehr. Was eine Scheiße. 

Ich soll jetzt Software testen. Mal davon abgesehen, dass ich die übliche Software sowieso hasse weil schwerwiegende Katastrophe. Ich soll jetzt also - fehlerhafte, das ist die Natur der Sache - Software testen, mit einem Test Framework (also Software  Nauseated) fragwürdiger Qualität (das ist die freundliche Umschreibung), das ich mit einem katastrophalen Code-Editor (Visual Studio Code) programmieren muss. Also ein Clusterfuck. 

Aber am allerschlimmsten ist der beschissene KI-Assistent der mir aufgezwungen wird. Der mir die ganze Zeit in meine Arbeit quer reinschießt, gerade von mir getippte Zeilen mal links, mal rechts verschiebt, dafür sorgt, dass ich schneller tippe als die Zeichen auf dem Bildschirm erscheinen, und dann ungefragt Vorschläge einblendet die mich a) aus dem Konzept bringen, b) meistens falsch sind und c) länger brauchen um die zu prüfen als ich gebraucht hätte den (dann richtigen) Code zu tippen. 

Ich will das nicht mehr. Das macht mich depressiv. Und es macht mich auch depressiv, wenn meine (Software) Kollegen die KI so hochloben. Und wenn ich dann darüber schimpfe darauf antworten, ich müsste nur die richtigen Prompts erstellen. Ich müsste die KI dazu bringen, das richtige Ergebnis zu liefern. Wo ich dann denke: hey, in der Zeit hätte ich das auch gerade runtergetippt. Wo ich doch sowieso nochmal die Logik überprüfen muss um sie dann zu ändern. 

Ich will nicht mehr. Alles einreißen und neu machen. Hilft nichts anderes.
Zitieren

#45
(21.08.2026, 21:28)JFA schrieb: KI. Ich will es einfach nicht mehr. Was eine Scheiße. 

Ich soll jetzt Software testen. Mal davon abgesehen, dass ich die übliche Software sowieso hasse weil schwerwiegende Katastrophe. Ich soll jetzt also - fehlerhafte, das ist die Natur der Sache - Software testen, mit einem Test Framework (also Software  Nauseated) fragwürdiger Qualität (das ist die freundliche Umschreibung), das ich mit einem katastrophalen Code-Editor (Visual Studio Code) programmieren muss. Also ein Clusterfuck. 

Aber am allerschlimmsten ist der beschissene KI-Assistent der mir aufgezwungen wird. Der mir die ganze Zeit in meine Arbeit quer reinschießt, gerade von mir getippte Zeilen mal links, mal rechts verschiebt, dafür sorgt, dass ich schneller tippe als die Zeichen auf dem Bildschirm erscheinen, und dann ungefragt Vorschläge einblendet die mich a) aus dem Konzept bringen, b) meistens falsch sind und c) länger brauchen um die zu prüfen als ich gebraucht hätte den (dann richtigen) Code zu tippen. 

Ich will das nicht mehr. Das macht mich depressiv. Und es macht mich auch depressiv, wenn meine (Software) Kollegen die KI so hochloben. Und wenn ich dann darüber schimpfe darauf antworten, ich müsste nur die richtigen Prompts erstellen. Ich müsste die KI dazu bringen, das richtige Ergebnis zu liefern. Wo ich dann denke: hey, in der Zeit hätte ich das auch gerade runtergetippt. Wo ich doch sowieso nochmal die Logik überprüfen muss um sie dann zu ändern. 

Ich will nicht mehr. Alles einreißen und neu machen. Hilft nichts anderes.
Es gibt schon Gründe, warum ich den Schei… nicht nutze oder versuche zu umgehen. 

1. Verblödet die Menschheit dadurch. Was nutzt es einen wenn ich mein Gehirn nicht mehr anstrengen brauche 

2. kommt da zu 99% eh nur Müll bei raus

3. verliert man den Spaß an der Sache

Jochen, ich weiß genau welchen Softwarehersteller du meinst. Man denkt, man deinstalliert den Mist und plötzlich ist es wieder da.

Ich nutze den PC/IT sowohl beruflich und auch privat. Beruflich ist es mir verboten, die KI zu nutzen, privat ist es schwer da (fast) alle mit den KI Features prahlen und auch werben .

Ich persönlich hoffe das ist nur ein vorübergehender Hype - wie damals die Dotcomblase auch - der untergeht bevor es die Welt tut.

Nur so meine Meinung zu dem Thema…
Grüße aus dem Emsland
Willi


Man sollte nie soviel zu tun haben, dass man zum Nachdenken keine Zeit mehr hat.
​(Georg Christoph Lichtenberg)
Zitieren

#46
(21.08.2026, 23:08)Willi schrieb:
(21.08.2026, 21:28)JFA schrieb: (...)
Ich soll jetzt Software testen. Mal davon abgesehen, dass ich die übliche Software sowieso hasse weil schwerwiegende Katastrophe. Ich soll jetzt also - fehlerhafte, das ist die Natur der Sache - Software testen, mit einem Test Framework (also Software  Nauseated) fragwürdiger Qualität (das ist die freundliche Umschreibung), das ich mit einem katastrophalen Code-Editor (Visual Studio Code) programmieren muss. Also ein Clusterfuck. 

Aber am allerschlimmsten ist der beschissene KI-Assistent der mir aufgezwungen wird. Der mir die ganze Zeit in meine Arbeit quer reinschießt, gerade von mir getippte Zeilen mal links, mal rechts verschiebt, dafür sorgt, dass ich schneller tippe als die Zeichen auf dem Bildschirm erscheinen, und dann ungefragt Vorschläge einblendet die mich a) aus dem Konzept bringen, b) meistens falsch sind und c) länger brauchen um die zu prüfen als ich gebraucht hätte den (dann richtigen) Code zu tippen. (...)
Es gibt schon Gründe, warum ich den Schei… nicht nutze oder versuche zu umgehen. 

1. Verblödet die Menschheit dadurch. Was nutzt es einen wenn ich mein Gehirn nicht mehr anstrengen brauche 

2. kommt da zu 99% eh nur Müll bei raus

3. verliert man den Spaß an der Sache

(...)

Ich persönlich hoffe das ist nur ein vorübergehender Hype - wie damals die Dotcomblase auch - der untergeht bevor es die Welt tut.

Ich kann den konkreten Frust durchaus nachvollziehen. Wenn mir ein KI-Assistent ungefragt in den Editor grätscht, Latenz erzeugt, meinen Gedankenfluss stört und ich seine Vorschläge länger prüfen muss, als ich für die richtige Lösung gebraucht hätte, dann ist das schlicht eine schlechte Integration. Und wenn man das Ding nicht abschalten kann, ist es zusätzlich ein schlechtes Rollout.

Was ich allerdings nicht nachvollziehen kann, ist der Sprung von „dieses konkrete KI-Tool nervt mich“ zu „KI ist Scheiße, liefert zu 99 % Müll und verblödet die Menschheit“. Das ist ungefähr so aussagekräftig wie: "Ich hatte mal ein schlechtes Auto (oder ich habe von einem gehört, der hatte ein schlechtes Auto), also ist der Verbrennungsmotor eine Fehlentwicklung."

Natürlich gibt es KI-Anwendungen, die wenig bringen. Natürlich wird derzeit auf Teufel komm raus „AI“ in Produkte geklebt, in denen sie niemand braucht. Natürlich kann unkritische Nutzung dazu führen, dass Leute Ergebnisse übernehmen, ohne sie verstanden zu haben. Aber daraus folgt eben nicht, dass das Werkzeug grundsätzlich nichts taugt.

Ein Taschenrechner hat die Menschheit auch nicht verblödet, weil man seitdem weniger schriftlich dividiert. Compiler haben Programmierer nicht verblödet, weil niemand mehr Maschinencode tippt. Google hat Wissen nicht abgeschafft, weil man nicht mehr jedes Detail auswendig kennen muss.

Die interessante Frage ist doch nicht, ob ein Werkzeug Denkarbeit abnimmt, sondern welche Denkarbeit es abnimmt und was ich mit der frei werdenden Kapazität anfange. Und gerade bei KI ist der Unterschied enorm: Wer sie ungeprüft Entscheidungen treffen lässt, produziert möglicherweise sehr effizient Unsinn. Wer sie als Werkzeug für Recherche, Gegenprüfung, Variantenbildung, Boilerplate, Tests, Dokumentation oder zum Hinterfragen der eigenen Lösung benutzt, kann damit ausgesprochen produktiv arbeiten.

Was übrigens die Hoffnung auf ein Ende „wie bei der Dotcomblase“ betrifft: Das wäre eine ziemlich ungünstige Analogie für die These, KI verschwinde wieder. Die Dotcomblase ist geplatzt. Viele Firmen und Geschäftsmodelle verschwanden. Das Internet allerdings nicht. Im Gegenteil: Danach wurde es von der spektakulären Zukunftstechnologie zur selbstverständlichen Infrastruktur.
Genau so könnte es auch bei KI laufen: Der Hype wird kleiner, viel nutzloser AI-Slop verschwindet, schlechte Produkte sterben – und die Anwendungen, die tatsächlich einen Nutzen haben, werden irgendwann so normal sein, dass niemand mehr groß „KI!“ draufschreibt.

Deshalb gerne Kritik an konkreten Tools, konkreten Modellen und konkreten Einsatzfällen. Davon lernt man etwas. Aber „KI ist Mist“ ist für mich ungefähr so interessant wie „Software ist Mist“ oder „Internet ist Mist“. Für ein technisches Forum wäre mir die Frage jedenfalls lieber:Wo funktioniert es, wo nicht – und warum?

Das wäre Technikdiskussion. Der Rest ist vor allem Weltanschauung.

Um es auf den Threadtitel zu bringen: Mich nervt diese populistisch-pauschalisierende Abschätzigkeit mit der teilweise auf KI und KI-Inhalte (leider insbesondere in Foren) geblickt wird. Teils wird eine tradierte Marotte "Meine Oma hat das immer so gemacht und die wurde 97 Jahre" als unumstößliche Wahrheit gesehen, aber alles was (wie hier auch schon geschrieben wurde) irgendwie "nach KI klingt" abqualifiziert. Genau das befeuert aktuell die Trennung, die wir am wenigsten brauchen. 

Und ja, gerade für gute Softwareentwickler ist der Umstieg aktuell eine riesige Herausforderung - und kann durchaus durch schlechte und von oben verordnete Mist-Tools ein Ding der Unmöglichkeit sein. Manches KI-Tool ist die Wiedergeburt der Adobe-Flash-Webseiten. Aber ich habe jetzt schon viele SoftwareENTWICKLER und vor allem SoftwareARCHITEKTEN erlebt die seit einem Jahr eine neue Jugend erleben und begeisterter Software bauen als je zuvor. Und, wie sie inzwischen selbst sagen: Deutlich besser.
Zitieren

#47
Hallo..

@Koaxfan: vielen, vielen, vielen Dank, du sprichst mir aus der Seele. KIn sind für mich inzwischen meine täglichen Begleiter, als Hinweis- und Ideengeber, zur Überprüfung meiner eigenen Gedankenkette, zur Überwindung meiner Betriebsblindheit, wenn ich mich mal in einem Projekt festgefressen habe.

Ja, KIn produzieren Mist, sie "halluzinieren". Deshalb sollte man schon genug Ahnung von dem haben, was man ihnen überläßt, sich alleine auf den Output der KIn zu verlassen, ist gefährlich.

Aber deshalb KIn in Grund und Boden verdammen? Nein, sicher nicht. Einfach ihre Potentiale nutzen anstatt eine grundsätzliche Ablehnungshaltung einzunehmen.
Zitieren

#48
Dazu ein konkreter Tipp:
Fragt man eine normale AI wie ChatGPT "Kann man das mit dem Konzept XYZ machen?" Antwortet sie immer mit "Klar, gerne gebe ich Dir Tipps dazu..."
Fragt man dagegen stufenweise "Was sind die Best Practices bei der Lösung des Problems XYZ?" "Gib mir die genauen technischen Hintergründe, nenne ausschließlich welche die Du mir mit geprüftem Quellenbezug geben kannst" "Wie steht dazu das Konzept XYZ im Vergleich? In welchen Anwendungsfällen hat es welche Vor- und Nachteile?" "Hier mein genauer Anwendungsfall, meine bisherigen Gedanken und Konzepte. Ordne diese kritisch ein."

Außerdem: Wenn man nur einmal Gemini oder Copilot ausprobiert hat, ist das etwa so als würde man von der AOL-Startseite auf das gesamte Internet schließen. Und ja, ich habe im Jahre 1999 einen Menschen erlebt, der sich mit AOL eingewählt hat, die Startseite gesehen hat und dann total davon enttäuscht war "Ich dachte das wäre mein Tor zur Welt aber das ist ja nur eine Seite die sich den ganzen Tag kaum ändert" - er hatte schlicht nicht auf die Links geklickt.
Insbesondere Gemini hat die Marotte, von großen Dokumenten nur die ersten Zeilen zu lesen und sich den Rest zusammenzureimen. Wie sinnvoll das bei technischen Dokumentationen und Patentschriften ist, sollte klar sein.
Dagegen habe ich ein Handyfoto meines Studio in ChatGPT hochgeladen, die Fragen dazu beantwortet und es berechnete die Raummoden die sich absolut exakt mit den realen Messungen gedeckt haben.

Noch ein hörenswerter Beitrag dazu: https://www.spiegel.de/netzwelt/kuenstli...3c4332c4de
Übrigens mache ich es mit meinen Chassis sehr ähnlich wie in dem Beitrag das Beispiel mit der Bibliothek.
Zitieren

#49
ACHTUNG - DIESER BEITRAG KANN IHRE SEHKRAFT GEFÄHRDEN - KLEINSCHREIBUNG
ich glaub, da gibts differenziertere sichtweisen.
ich bin durchaus positiv gestimmt, was KI und deren zukünftige anwendung betrifft.
einfach ein werkzeug, das heute allerdings noch sehr unausgereift ist und halt auch immer wieder müll produziert - sprich, ich kann mich auf die ergebnisse nicht verlassen, muss sie penibelst überprüfen, korrigieren, oft verwerfen ...
das führt halt oft dazu, dass - wie auch in manchen posts erwähnt - dieses procedere mehr aufwand erfordert als die direkte durchführung der aufgabe.
das scheint einfach der frust zu sein.
sie produziert keine fachlich/wissenschaftlich sicher reproduzierbaren ergebnisse.
als privater kann ich damit spielen - in einem arbeitsprozess, in dem absolute zuverlässigkeit gefordert ist kanns durchaus zu konflikten kommen.
gruß  reinhard
Zitieren

#50
(22.08.2026, 08:24)Koaxfan schrieb: Ich kann den konkreten Frust durchaus nachvollziehen. Wenn mir ein KI-Assistent ungefragt in den Editor grätscht, Latenz erzeugt, meinen Gedankenfluss stört und ich seine Vorschläge länger prüfen muss, als ich für die richtige Lösung gebraucht hätte, dann ist das schlicht eine schlechte Integration. Und wenn man das Ding nicht abschalten kann, ist es zusätzlich ein schlechtes Rollout.

Der integrierte Assistent ist der Github Copilot. Unsere Softwerker sind davon ganz begeistert. So toll. So viel Arbeitserleichterung. 

Ein anderer Softwaretester hat gerade in den Sack gehauen. Ging um Arbeitszeit, Kohlen, aber eben auch: seitdem die Entwickler das Ding einsetzen ist seine Arbeitsbelastung höher geworden. 

Die Softwaretestergruppe in der ich jetzt bin wurde vor ein paar Wochen angeranzt, ihre Architektur des Testframeworks sei total falsch, und sie hätten ja nur einmal ChatGPT fragen müssen, der hätte es ihm (dem Anranzer) perfekt erklärt (Hintergrund ist die zu lange Testdauer). 

Die Realität: die Architektur entspricht (fast) derjenigen in der Anleitung des Testframeworks. Die lange Testdauer liegt an bestimmten Funktionen in der zu testenden Software, die immer wieder lange Wartezeiten erfordern. Wie habe ich das herausgefunden?
a) ich habe die Anleitung gelesen
b) ich in die Logdateien geschaut

Ich bin zu dem Testen gekommen, weil ich mir für den anstehenden EMV-Test eine eigene Überwachungssoftware dafür geschrieben habe. Mache ich immer so, aus verschiedenen Gründen. Ich mache das in Tcl/Tk. Diese Überwachungssoftware habe ich in 6 Wochen geschrieben, und bis auf manche Funktionen, die ich nicht brauche, ist die vollständig. Während ich meine Software geschrieben habe sind etliche Fehler aufgetaucht, die in jetzt fast 2 Jahren Entwicklung und Testen der Software nicht gesehen wurden. Weil ich was ganz triviales gemacht habe: ich habe von außen auf das Gerät und seine Funktionen geschaut, und mich nicht mit Unit-Tests und Integrationstests herumgeschlagen. Teilweise waren diese Fehler grundlegend, also die Funktion des Gerätes in Frage stellend. Und diese ganze KI-gestützte Testerei hat das in der Zeit nicht gefunden. 

Ich soll jetzt, weil unter dem Testframework Python liegt, Funktionen in Python schreiben. Und dazu am besten KI verwenden, damit ich nicht noch Python groß lernen muss. Ich habe mir dann einmal die mit Hilfe von KI geschriebenen unterliegenden Funktionen angeschaut (da geht es um serielle Kommunikation mit der zu testenden Hardware). Weil ich die Kommunikation auch machen musste habe ich den direkten Vergleich. Meine Software ist kompakter, lesbarer, logischer aufgebaut, schlicht: besser. Nicht fehlerfrei, das zu behaupten wäre vermessen. Aber es liegen Welten zwichen der Qualität meiner und dem Python-Geraffel, was ich jetzt anschauen muss. 

Ohne KI-Unterstützung. Allein mit Hilfe der Dokumentation und qualifiziertem Rumprobieren.  

Komm mir bitte bloß keiner mehr mit KI an.
Zitieren

#51
Hi JFA,
du hast mein vollstes Mitgefühl, was dir wahrscheinlich nicht viel nützen wird. Blush

Meine Erfahrungen mit KI sind durchaus durchwachsen.
Ich bin kein Fan von betreutem Denken.
Manchmal bringt mir KI Suchergebnisse in kürzerer Zeit als ich die selber zusammenstoppeln könnte und ich bin mir danach nicht sicher, was davon vertrauenswürdig ist. Ich kann bloß mit Hausverstand auf Plausibilität prüfen.
Das eine oder andere Mal hab ich aber nützliche Anstöße erhalten.

Das größte Problem der Chatbots IMHO: Sie haben das Wissen der Welt und die Intelligenz von maximal Kleinkindern, wenn überhaupt. Und sie sind auf maximal schleimige Wokeness trainiert. ( Haut mich für diese Behauptung!  Frowning_devil  )
Sie brauchen dauernd Überwachung, damit sie keinen Blödsinn treiben und sie fordern Daueraufmerksamkeit.
Und genau die Überwachungsleistung zehrt natürlich maximal an der Gehirnleistung eines Erwachsenen.

Just my 0,02€
am Ziel
Zitieren

#52
@kboe: "sie fordern Daueraufmerksamkeit" - das kann ich bestätigen, aber dann pulverisiert das doch das Gerücht, "wir verblöden alle weil wir KI für uns denken lassen"?

@JFA: Eine so verständliche Frustration verdient eine komplette Antwort, deshalb ausführlicher, sorry dafür. Denn: Ich glaube, da kommen gerade zwei Dinge zusammen, die man sauber trennen sollte.

Deinen Frust über den konkreten Einsatz kann ich inzwischen ziemlich gut nachvollziehen. Wenn Copilot ungefragt in den Arbeitsfluss eingreift, wenn KI-generierter Code qualitativ schlechter ist als das, was ein erfahrener Entwickler selbst schreibt, und wenn dann noch mit „hättet ihr halt ChatGPT gefragt“ auf ein Problem reagiert wird, dessen Ursache sich durch Lesen der Doku und der Logs sauber ermitteln lässt, dann ist das kein besonders überzeugender KI-Rollout. Leider ist es das, was ich regelmäßig sehe und mir dann auf die Zunge beißen muss um nicht zu sagen: "Das ist teurer und brandgefährlicher Schrott den jemand nur gekauft hat damit man auch mal was mit AI macht"

Was ich aus deiner Schilderung aber vor allem herauslese, ist etwas anderes: Das eigentliche Problem scheint gar nicht KI zu sein.

Da kommen gerade eine ganze Reihe älterer Engineering-Themen an die Oberfläche, die vorher offenbar durch Erfahrung, Handarbeit und Leute, die „wissen, wie das Ding wirklich funktioniert“, kompensiert wurden. Du hast beispielsweise von außen auf das Gerät geschaut und dabei Fehler gefunden, die Unit- und Integrationstests über lange Zeit nicht gefunden haben. Das ist zunächst einmal kein Beleg dafür, dass KI beim Testen versagt hat. Es ist ein ziemlich deutlicher Hinweis darauf, dass zwischen Anforderung, tatsächlichem Systemverhalten und vorhandener Testabdeckung eine Lücke besteht. Es kostet mich bei den später gut laufenden Systemen sehr viel Zeit, diese ganzen verschiedenen Ebenen synchron zu bringen - bei gewachsenen Systemen eine riesige Aufgabe - unsexy, aber unersetzlich. 
Ähnlich bei der Testdauer: Wenn die langen Laufzeiten wesentlich aus dem Verhalten des Prüflings und notwendigen Wartezeiten entstehen, dann kann man über die Architektur des Frameworks diskutieren, so lange man will. Die eigentliche Ursache findet man durch Messen, Logs und Verständnis des Systems – genau so, wie Du es gemacht hast.
Und auch der Python-Code ist für mich eher ein Symptom. Wenn die Anforderungen an Kommunikation, Zustände, Timeouts, Fehlerbehandlung usw. nicht sauber vorgegeben sind, produziert ein KI-Assistent eben schnell Code, der irgendwie funktioniert, aber strukturell unschön oder schwer wartbar ist. Früher hätte denselben Code vielleicht ein Junior geschrieben und ein Senior hätte ihn stillschweigend geradegezogen.

Genau da liegt für mich der interessante Effekt: KI erzeugt viele dieser Probleme nicht. Sie macht sie sichtbarer und skaliert sie. Sie findet mit schlafwandlerischer Sicherheit alles, was nicht absolut knallhart mit MUST oder MUST NOT und Intent-Files, Policies und Decision Records konsistent (!) kodifiziert ist - und sie füllt Lücken mit Halluzinationen. Daher a) definiere ich so hart, dass die KI nicht mehr halluzinieren MUSS und b) durch meine Konsistenzchecks finde ich automatisiert alles, wo sie das doch getan hat. Und das sind erfahrungsgemäß Spezifikationslücken meinerseits, also Felder, wo ich mir "das ist doch logisch" gedacht habe aber zu faul war so selbstverständliche Sachen aufzuschreiben. 

Solange viel manuell gemacht wurde, konnten erfahrene Leute fehlende Spezifikationen, implizites Wissen, schlechte Schnittstellen, unklare Verantwortlichkeiten oder schwache Tests oft nebenbei ausgleichen. Das kostet Zeit, fällt aber im Ergebnis nicht unbedingt auf. Wenn man nun automatisieren und KI einsetzen will, funktioniert dieses „der Kollege weiß schon, was gemeint ist“ plötzlich nicht mehr besonders gut. Dann muss explizit werden, was vorher implizit war:

Was soll das Gerät eigentlich genau tun?
Was davon ist testbar beschrieben?
Welche Ebene testet welchen Fehler?
Was ist die tatsächliche Ursache einer langen Laufzeit?
Wie sieht guter Code für diese Schnittstelle aus?
Und woran entscheidet man überhaupt, ob ein KI-Ergebnis richtig ist?

Das sind alles keine neuen KI-Fragen. Das sind ziemlich klassische Software- und Systems-Engineering-Fragen. Die KONNTE man sich früher stellen und HÄTTE sie auch alle dokumentieren sollen - aber entweder die Doku war nicht da, nicht maschinenlesbar genug oder man hat die AI nicht (richtig) damit gefüttert. Und leider sind die unterschiedlichen AIs da sehr unterschiedlich wählerisch: Gemini liest die ersten 5% und sagt dann "hey, ich habe alles was ich brauche, ich baue jetzt die Tests". Copilot liest 100%, versteht 50%, sagt  "hey, ich habe alles was ich brauche, ich baue jetzt die Tests" und baut dann irgendwas. ChatGPT stellt Dir 10 Rückfragen und sagt dann  "hey, ich habe alles was ich brauche, ich baue jetzt die Tests" und die decken das ab was Du geantwortet hast, aber auch nur das. Claude sagt "wow, cooles System. Hier 10 Analyse-Prompts damit ich Codebase, Doku und Logs verstehe. Dann etwa 50 Basisfragen zum System. Dann nochmal 10 Analyse-Prompt. Dann eine Analyse aller Punkte die auf den ersten Blick inkonsistent sind. Dann fixen wir mal 100 Intent-Files, Specs, Policy-Files, Prozesse, Decision Records, Testcontainer - und bei jedem dieser 100 Fixes frage ich Dich, wie Du es gerne hättest - Du entscheidest, ich fixe". Danach hat man ein System in dem Zustand, in dem man erstmalig einer AI sagen darf: Geh und teste. Natürlich kann man es auch vorher tun und manche AIs machen das auch dienstfertig. Das ist dann ein Fall für "Das kannste schon so machen, dann isses halt kacke"

Deshalb würde ich aus deiner Geschichte fast die umgekehrte Konsequenz ziehen: Nicht „mehr KI“ – aber auch nicht „KI weg“. Erst einmal das Engineering sauber machen. Und wenn danach ein KI-Werkzeug an einer bestimmten Stelle tatsächlich Arbeit spart: wunderbar. Wenn es dort nur stört, abschalten.

Aber wenn eine Organisation versucht, fehlende Spezifikation, schwaches Testdesign oder mangelndes Systemverständnis mit Copilot und ChatGPT zu überdecken, wird das Ergebnis ziemlich zwangsläufig beschissen.

Da wäre ich dann sogar vollständig bei Dir. Und ich habe schon mehrfach meine Aufträge riskiert weil ich auf die Frage "Wie können wir unseren POC verbessern?" mehr oder weniger ehrlich "Wegwerfen und einmal anständig neu bauen" gesagt habe.
Zitieren

#53
(22.08.2026, 12:02)Koaxfan schrieb: @kboe: "sie fordern Daueraufmerksamkeit" - das kann ich bestätigen, aber dann pulverisiert das doch das Gerücht, "wir verblöden alle weil wir KI für uns denken lassen"?

Es ist halt ein Unterschied, ob ich pausenlos babysitten muss, oder was Produktives leisten kann......
Babysitten bringt keine bis ganz wenige neue Erkenntnisse.
am Ziel
Zitieren

#54
(22.08.2026, 12:10)kboe schrieb:
(22.08.2026, 12:02)Koaxfan schrieb: @kboe: "sie fordern Daueraufmerksamkeit" - das kann ich bestätigen, aber dann pulverisiert das doch das Gerücht, "wir verblöden alle weil wir KI für uns denken lassen"?

Es ist halt ein Unterschied, ob ich pausenlos babysitten muss, oder was Produktives leisten kann......
Babysitten bringt keine bis ganz wenige neue Erkenntnisse.

Wenn Du es wie ein Baby behandelst, wird es auch nur DADA und BUBU sagen. Schöner formuliert, aber inhaltlich eben substanzlos. Klar ist es profan, eine Halluzination einer AI zu provozieren - es zeigt aber nur, dass eine Fehlbedienung auch zum falschen Ergebnis führt. 

Wenn Du eine AI auf Augenhöhe wie einen Sparringspartner behandelst, ihr alle Informationen so gibts wie sie es braucht, sicherstellst, dass sie es auch verstanden hat, dann bekommst Du auch die Ergebnisse. Und das ist ganz bodenständige, ehrliche Systemarchitekturarbeit. Konzentration aufs Wesentliche. Ich muss jetzt in der AI-powered Architekturarbeit soviel und so intensiv alles was ich die letzten Jahrzehnte über DevSecOps gelernt habe, einbringen. Weil ich führe und die AI ausführt. 

Wer denkt, er würde eine AI babysitten, ja nun, der bekommt auch genau das.
Zitieren

#55
(22.08.2026, 12:02)Koaxfan schrieb: Was ich aus deiner Schilderung aber vor allem herauslese, ist etwas anderes: Das eigentliche Problem scheint gar nicht KI zu sein.
[...]
Deshalb würde ich aus deiner Geschichte fast die umgekehrte Konsequenz ziehen: Nicht „mehr KI“ – aber auch nicht „KI weg“. Erst einmal das Engineering sauber machen. Und wenn danach ein KI-Werkzeug an einer bestimmten Stelle tatsächlich Arbeit spart: wunderbar. Wenn es dort nur stört, abschalten.

Ich glaube, da sind wir gar nicht so weit auseinander. Wenn nachher die KI den Code-Monkey spielt, soll sie, ist sie schneller drin. Wobei der Code, der da rausfällt, halt auch nicht so prick ist. Was dann wahrscheinlich daran liegt, das 90% des Codes, den die zum Lernen benutzt hat, menschlich verfasst wurde und auch nicht besonders toll ist. 

Und Spezifikationen... die entwickeln sich. Und zwar während der Code geschrieben, die Platine entworfen, das Rad erfunden wird. Also während der praktischen Phase. Wenn ich die Spezifikationen von Anfang an festzurre und dann eine KI den Code schreiben lasse, dann kommt Mist bei raus. Und ja, das ist nicht die Schuld der KI. 

Vielleicht sollte ich eher sagen: mich nervt, dass inzwischen auf jedes Problem KI losgelassen wird, anstatt einmal selber grundlegend drüber nachzudenken.
Zitieren

#56
Da sind wir sowas von 100% beisammen!
Zitieren

#57
(22.08.2026, 12:24)Koaxfan schrieb:  Klar ist es profan, eine Halluzination einer AI zu provozieren 

Da liegt meiner Meinung nach der Hase im Pfeffer:
Warum MUSS eine KI überhaupt halluzinieren? 
Ein ehrliches "das weiß ich nicht" wäre zielführender als jede Halluzination IMHO. ( Ich bin Jahrgang 66, meine Bullshit-Toleranz wird täglich geringer )

Hier geht es doch, wie auf so vielen Seiten im www hauptsächlich darum, Klicks und damit revenue zu generieren und nicht um ein möglichst schlüssiges Ergebnis. Und dafür zahlt man dann auch noch.

Du nutzt KI für deine Arbeit und hast dich damit arrangiert. ( So zumindest interpretiere ich deine posts )
Die Frage lautet nun:
Bist du damit wirklich produktiver? Schaffst du in der gleichen Zeit mehr als vor der KI?
Und nicht ganz zum Schluss: Ist das befriedigender als vorher und/oder macht das sogar Spaß?

Überspitzt: Ist es befriedigender, einem -zugegebenermaßen annähernd allwissenden- Kleinkind beizubringen, das zu liefern, was man braucht, oder es selber zu erzeugen?

Ich möchte das jetzt nicht als Häme verstanden wissen! Es interessiert mich wirklich!
am Ziel
Zitieren

#58
(22.08.2026, 13:19)kboe schrieb: Warum MUSS eine KI überhaupt halluzinieren? 

Weil ein Sprachmodell nicht primär darauf trainiert ist, wahre Aussagen zu erzeugen, sondern darauf, wahrscheinliche Fortsetzungen von Text zu erzeugen.

Vereinfacht gesagt berechnet ein Modell bei jedem Schritt:

P(nächstes Token ∣ bisheriger Text)

und setzt daraus eine Antwort zusammen. Dabei besitzt es keine eingebaute Instanz, die anschließend zuverlässig prüft: „Ist diese Aussage tatsächlich wahr?“

Das führt zu mehreren typischen Ursachen für Halluzinationen:
  • Plausibilität statt Wahrheit: Wenn etwa nach einem unbekannten IC gefragt wird, kann das Modell aus vertrauten Mustern einen sehr überzeugend klingenden Pinout, Hersteller oder Funktionsumfang zusammensetzen. Sprachlich passt alles — sachlich kann es frei erfunden sein.
  • Lücken im gelernten Wissen: Das Modell hat keine Datenbank, in der jeder Fakt einzeln gespeichert ist. Wissen steckt verteilt in den Gewichten des neuronalen Netzes. Ist eine Information nur schwach vertreten, rekonstruiert das Modell sie aus ähnlichen Mustern.
  • Interpolation schlägt Erinnerung: Man kann sich das teilweise wie eine enorme multidimensionale Interpolation vorstellen. Gibt es beispielsweise viele Texte über CXAxxxx-ICs, aber wenig über genau einen bestimmten Typ, kann das Modell Eigenschaften verwandter Bausteine unzulässig auf diesen übertragen.
  • Die Aufgabenstellung verlangt praktisch eine Antwort: Das Training belohnt hilfreiche, vollständige Antworten. Ohne ausreichende Unsicherheitskalibrierung ist deshalb manchmal „eine plausible Antwort erfinden“ statistisch attraktiver als „ich weiß es nicht“.
  • Mehrdeutiger Kontext: Ist eine Frage unterbestimmt, wählt das Modell möglicherweise eine plausible Interpretation und baut darauf konsequent weiter. Schon eine falsche Annahme am Anfang kann dann eine sehr schlüssige, aber komplett falsche Antwort ergeben.
  • Fehler können sich selbst verstärken: Hat das Modell innerhalb seiner eigenen Antwort erst einmal einen falschen Fakt erzeugt, gehört dieser anschließend zum Kontext. Die folgenden Sätze werden dann so erzeugt, dass sie zu diesem falschen Fakt passen. So entstehen regelrechte geschlossene Fantasiegebäude.

Interessant ist dabei: Eine Halluzination ist kein Lügen im menschlichen Sinne. Zum Lügen müsste das Modell wissen: „A ist wahr, aber ich sage absichtlich B.“ Bei einer typischen Halluzination existiert diese Trennung gerade nicht. Das Modell erzeugt einfach B, weil B im gegebenen Kontext eine statistisch sehr passende Fortsetzung ist.

Warum Sprachmodelle halluzinieren

Zitat:( Ich bin Jahrgang 66, meine Bullshit-Toleranz wird täglich geringer )

Ich bin Jahrgang 64 und vor 1, 2 Jahren wusste ich auch noch nicht viel mit KIn anzufangen, außer sie so einen Quatsch zu fragen, ein Gedicht über meine Heimatstadt zu verfassen. Inzwischen nutze ich KIn so gut wie täglich.

Zitat:Bist du damit wirklich produktiver? Schaffst du in der gleichen Zeit mehr als vor der KI?

Ich kann für mich beide Fragen aus voller Überzeugung mit einem "Ja" beantworten. Und die KI bewahrt mich vor dummen Fehlern und/oder Betriebsblindheit.

Zitat:Und nicht ganz zum Schluss: Ist das befriedigender als vorher und/oder macht das sogar Spaß?

Mir schon.
Zitieren

#59
(22.08.2026, 13:19)kboe schrieb:
(22.08.2026, 12:24)Koaxfan schrieb:  Klar ist es profan, eine Halluzination einer AI zu provozieren 

Da liegt meiner Meinung nach der Hase im Pfeffer:
Warum MUSS eine KI überhaupt halluzinieren? 
Ein ehrliches "das weiß ich nicht" wäre zielführender als jede Halluzination IMHO. ( Ich bin Jahrgang 66, meine Bullshit-Toleranz wird täglich geringer )

Hier geht es doch, wie auf so vielen Seiten im www hauptsächlich darum, Klicks und damit revenue zu generieren und nicht um ein möglichst schlüssiges Ergebnis. Und dafür zahlt man dann auch noch.

Du nutzt KI für deine Arbeit und hast dich damit arrangiert. ( So zumindest interpretiere ich deine posts )
Die Frage lautet nun:
Bist du damit wirklich produktiver? Schaffst du in der gleichen Zeit mehr als vor der KI?
Und nicht ganz zum Schluss: Ist das befriedigender als vorher und/oder macht das sogar Spaß?

Überspitzt: Ist es befriedigender, einem -zugegebenermaßen annähernd allwissenden- Kleinkind beizubringen, das zu liefern, was man braucht, oder es selber zu erzeugen?

Ich möchte das jetzt nicht als Häme verstanden wissen! Es interessiert mich wirklich!


Zu "Warum MUSS eine KI überhaupt halluzinieren? 
Ein ehrliches "das weiß ich nicht" wäre zielführender als jede Halluzination IMHO."

Warum das technisch so ist, wurde schon erklärt. WANN es passiert, ist was anderes: Dann, wenn die Halluzination das beste Ergebnis ist, d.h. die KI planlos&verzweifelt ist. Mein einziger Trick ist es, diesen Zustand zu verhindern - einfach, indem ich der KI klare Ansagen mache. Ja, das ist anspruchsvoll und erfordert primär die Bereitschaft, neues zu lernen und sich in das System hineinzudenken. Dann sagt sie nämlich (mir passiert das permanent - und es ärgert mich natürlich erstmal) sehr verlässlich "ich weiß es nicht".

" ( Ich bin Jahrgang 66, meine Bullshit-Toleranz wird täglich geringer )" 

Ich empfehle nochmals den oben verlinkten Podcast, da geht es explizit drum, dass es eben gerade kein Altersproblem ist. Und definitiv auch kein Bullshit-Problem sondern eher ein Bereitschafts-Problem.

"Hier geht es doch, wie auf so vielen Seiten im www hauptsächlich darum, Klicks und damit revenue zu generieren und nicht um ein möglichst schlüssiges Ergebnis. Und dafür zahlt man dann auch noch."

Große Worte, die ich leider so garnicht verstehe, magst Du das bitte genau erklären? Was ist "hier", wer generiert hier Klicks, wer generiert hier Revenues? Dass es nicht um ein schlüssiges Ergebnis geht, woran machst Du das fest?

"Bist du damit wirklich produktiver? Schaffst du in der gleichen Zeit mehr als vor der KI?
Und nicht ganz zum Schluss: Ist das befriedigender als vorher und/oder macht das sogar Spaß?"

Nicht nur ich habe damit nicht nur die reine Produktivität massivst gesteigert sondern primär das Erfolgserlebnis. Ja, es ist manchmal deprimierend zu sehen wie schlecht die klassisch gecodete Software ist, aber die Möglichkeiten und realen Ergebnisse (greenfield & brownfield) sind einfach irre. Ich rede von hochresilienten Backendsystemen, nicht von irgendwelchem Kinderfasching-One-Prompt-VibeCode-Demo. Das sehe ich tatsächlich gerade bei älteren, erfahreneren Leuten wie mir, die jetzt plötzlich wieder eine zweite Jugend verspüren und nicht nur kreativ vor Ideen sprudeln sondern diese auch tatsächlich realisiert bekommen. Live auf Prod. 

"Überspitzt: Ist es befriedigender, einem -zugegebenermaßen annähernd allwissenden- Kleinkind beizubringen, das zu liefern, was man braucht, oder es selber zu erzeugen?"

Die Frage ist so gestellt, dass sie sich selbst beantwortet. Und die Frage zeugt davon, dass die letzten 18 Monate AI-Entwicklung nur aus einem ebenso selbstgewählten wie übergroßen Abstand verfolgt wurden. 

Also ja, würde ich es genauso machen, würde es mir auch keinen Spaß machen. Aber ich mache es eben anders. Und ich habe oben konkrete Tipps gegeben, was kleine, sofort machbare Unterschiede sind. Es steht jedem frei, über den Tellerrand zu schauen.
Zitieren

#60
(22.08.2026, 14:24)Koaxfan schrieb: Große Worte, die ich leider so garnicht verstehe, magst Du das bitte genau erklären? Was ist "hier", wer generiert hier Klicks, wer generiert hier Revenues? Dass es nicht um ein schlüssiges Ergebnis geht, woran machst Du das fest?

Nun die erste Schlussfolgerung meinerseits: Je mehr Nachfragen nötig, desto höher der Verbrauch an Tokens. Die muss natürlich nicht stimmen.

Zitat:Die Frage ist so gestellt, dass sie sich selbst beantwortet. Und die Frage zeugt davon, dass die letzten 18 Monate AI-Entwicklung nur aus einem ebenso selbstgewählten wie übergroßen Abstand verfolgt wurden.

Stimmt! Da ich KI nicht nutzen muss, ist mein Abstand entsprechend groß. Ich löse meine Arbeitsaufgaben noch hauptsächlich mit Schraubenzieher und Multimeter. Meine Kontakte mit KI beschränken sich im wesentlichen darauf, sie als Suchmaschine für private Zwecke zu benutzen.

Zitat:Also ja, würde ich es genauso machen, würde es mir auch keinen Spaß machen. Aber ich mache es eben anders. Und ich habe oben konkrete Tipps gegeben, was kleine, sofort machbare Unterschiede sind. Es steht jedem frei, über den Tellerrand zu schauen.

Danke für die Aufklärung! Möglicherweise hast du gerade meinen Tellerrand ein wenig niedriger gemacht.  Shy
am Ziel
Zitieren



Gehe zu:


Benutzer, die gerade dieses Thema anschauen:

Deutsche Übersetzung: MyBB.de, Powered by MyBB, © 2002-2026 Melroy van den Berg.