Wenn die KI anfängt zu schwurbeln...

[ra 31]

wollt mich ja raushalten - zur freude des großteils der teilnehmer.
aber kommunikationstechnisch läuft da einiges schräg.
meine meinung interessiert zwar kaum, aber ich schrieb ja bereits anfangs, dass KI ein gutes, ein erstklassiges werkzeug sein kann, das einigen nutzen hat.
doch wer bezahlt die entwicklung, wer triebt sie voran, was sind die zugrundeliegenden motive?
wenn menschen, die da ab und zu wenigstens über den tellerrand schauen darauf hinweisen, dass da mehrere aspekte zu beachten sind, wird das als unqualifiziertes geschwafel abgetan, weil ja keine "experten" - seit jahren das dauerunwort der 20er.
nicht umsonst holen kluge unternehmensleitungen auch fachfremde ins team, weil unverstellter blick.
wie meinte leonardo von quirm: "ich will keine fachleute - ich brauche menschen, die die grenzen des möglichen nicht kennen".
ich denk, spätestens seit aristoteles haben wir gelernt, im entweder-oder modus zu denken, statt in der weise von sowohl-als auch.
deshalb werden auseinandersetzungen so schnell unangenehm.
ein messer - ohne dieses vieles nicht möglich, in den falschen händen tödlich.
gruß  reinhard

[timo]

ich muss ehrlich sein, ich habe nicht alles gelesen, ... Fakt ist dass die heutige KI richtig genutzt, heute schon Zeitersparnis bringt und vielleicht bestimmte Tätigkeiten die Qualität verbessern. Gerade heute habe ich eine Geschäftsemail durch die KI gejagt und in 30 Sekunden einige eigene Fehler korrigieren lassen, Fachlich wie auch von der Rechtschreibung. Das ist ein zusätzlicher Handgriff, der die Qualität deutlich verbessert. Wie wenn früher die Schreiben durch die Sekretärin nochmals auf Rechtschreibung korrigiert wurden. Das sind die einfachen KI-Tägigkeiten die ich heute schon intenssiv nutze. Dann kommen weitere Themen in der Vorentwiclung um einen Überblich zu bekommen, wo man sich vorher noch nicht so auskennt. Ich nenne es jetzt Literaturrecherche, da in dieser Onlinesuche verschiedenste Quellen angezapft werden. Dies möchte ich nicht mehr missen. Allerdings muss man sich die Quellen immer angeben lassen, da oftmals fragwürdige Quellen angezapft werden. 

Dann ist da der ganz große Schwurbelbereich, wenn man nicht konkret angibt was man benötigt. wenn der Spielraum zu groß wird. "Holla die Wandfeh", was da für ein Mist rauskommt. Nicht jede KI ist bei allen Themen gleich gut, das muss man wissen um die richtige Hilfe zu bekommen, ... gerade gestern genutzt die Grafikfunktionen von ChatGPT, gefallen mir sehr gut. 

Der Klaus hat aber schon was Richtiges gesagt, eine Kontrolle muss man können und da die KI manschmal so mießerabel schlecht ist, muss auch der Anwender entscheiden können, dass er dann abbricht, das geht nur mit einer gewissen Fachkompetenz. Denn ohne gehts schief. 

Es wird sich unser Arbeitsbereich grundlegend ändern, das sehe ich in der Tat auch, aber die Kontrolle wird zunehmen müssen.

[ArLo62]

Moin! 
"Holla die Wandfeh" ist gut?
Leider denken viele, sie bräuchten dann keine Erfahrung, kein Wissen mehr oder stellen ihr Hirn ganz ab. Ist doch heute schon so, dass viel Wissen verloren gegangen ist und es gar keine Universalisten mehr gibt. Wenn alle ihre Problemtexte durch die KI drehen, dann braucht man auch keine Rechtschreibung mehr. Macht ja alles das schlaue Teil. Die Herausforderung werden immer weniger und irgendwann langweilt sich die eine Hirnzelle im Kopf und denkt sich, warum bin ich hier so allein? Alle verlieren durch die Reizüberflutung, die Fokussierung. Lernen wird nicht mehr gelernt. Allgemein verdoofen wir langsam. Dann hat die KI sowieso gewonnen!

[Nebenweg]

Wenn alle ihre Problemtexte durch die KI drehen, dann braucht man auch keine Rechtschreibung mehr. Macht ja alles das schlaue Teil.

Richtig, Arnim! Genau wie mit dem Taschenrechner: man verlernt das Rechnen von Hand oder mit dem Rechenschieber! Teufelszeug! Braucht niemand!

[timo]

ich habe eine Stunde einen interessanten Chat mit ChatGPT geführt. 
Thema. Liste mir alle Patante von Burmester auf, und kombiniere diese Themen mit einer aktuellen Box. 

Der erste Teil ist gut gelungen und auch die Beschreibung der einzelnen Patente funktionieren. UND jetzt wird es komplizierter, ziehe Bezüge zu aktuellen Boxen. DAS kann KI NICHT. vollkommen überfordert und mehrere Sackgassen, wie man sie in die richtige Richtung führen muss, nach einer halben Stunde habe ich das erste mal abgebrochen, weil nur noch Mist kam und dann nach einer Stunde dann der komplette Abbruch. Die KI kann keine technischen Bezüge untereinander ziehen. Dann fängt das Teil an zu SCHWURBELN.

wie ich finde, ein gutes Beispiel

[ArLo62]

Funktioniert die KI denn noch nur auf Basis von Large Language Models oder hat man da schon Fortschri5e gemacht? Das würde erklären, warum die Ergebnisse immer chaotischer werden. Gibt es da eigentlich zirkelbezüge, dass ich die KI immer weiter in ihrer eigenen Iteration verfängt?

[Nebenweg]

Mir hat gestern das Bezahlmodell von Gemini auf eine meines Erachtens ausreichend spezifische Frage inklusive grafischer Illustration geantwortet:

Ich kann dabei nicht helfen, da ich nur ein Sprachmodell bin und das nicht verstehe.

[Koaxfan]

Ich glaube, Timos Burmester-Beispiel ist gerade genau das, was dieser Thread gebraucht hat.

Wir haben jetzt sieben Seiten lang sehr viele Erfahrungen gesammelt, von „erstaunlich gut“ bis „fängt irgendwann komplett an zu schwurbeln“. Vielleicht sollten wir daraus jetzt einmal das machen, was wir bei einem technischen Problem normalerweise auch machen würden: einen reproduzierbaren Versuch.

Timo schreibt sinngemäß:

1. Burmester-Patente ermitteln → funktioniert.
2. Patente technisch beschreiben → funktioniert.
3. Beziehungen zwischen diesen Patenten und einer aktuellen Box herstellen → läuft gegen die Wand.

Das ist eine interessante und vor allem prüfbare Aussage. Ich würde deshalb genau diesen Fall nehmen und die Aufgabe zerlegen:

A – Retrieval: Welche Patente gibt es tatsächlich? Nur Patentnummer, Patentfamilie, Originalquelle.
B – technische Extraktion: Was wird dort tatsächlich beansprucht bzw. technisch gelehrt? Mit konkretem Verweis auf Claim/Beschreibung. Noch keinerlei Bezug zu aktuellen Produkten.
C – Zielsystem: Eine konkrete aktuelle Burmester-Box beschreiben – ausschließlich anhand nachprüfbarer Quellen.
D – Transfer: Für jedes relevante Patentmerkmal prüfen: `direct evidence | functional similarity | superficial similarity | contradiction | insufficient evidence`
Dabei muss „nicht feststellbar“ ausdrücklich ein zulässiges Ergebnis sein.
E – technische Verifikation: Bei jeder behaupteten Beziehung zusätzlich angeben: „Welche Messung, Zeichnung, Schaltungsinformation oder konstruktive Beobachtung würde diese Hypothese bestätigen oder widerlegen?“

Dann können wir nämlich etwas Interessanteres herausfinden als „KI gut“ oder „KI schlecht“:

- Scheitert bereits die Informationsbeschaffung?
- Werden Informationen korrekt extrahiert, aber beim Transfer halluziniert?
- Funktioniert der Transfer, wenn die Faktenbasis feststeht?
- Fehlen schlicht die öffentlich verfügbaren Daten?
- Oder kann das Modell tatsächlich bestimmte technische Zusammenhänge nicht herstellen?

Und wir hätten gleichzeitig einen schönen Test dafür, wo ein LLM sinnvoll endet und wo deterministische bzw. physikalische Werkzeuge übernehmen müssen.

Für mich wäre bei technischen Aufgaben ohnehin die sinnvollere Kette:

LLM → Hypothese → Rechnung/Simulation → Messung → Entscheidung

und nicht

LLM → Antwort → glauben/nicht glauben.

Wenn Timo Patent(e) und die konkrete Box nennt, würde ich genau dieses Experiment interessant finden. Rohprompt und Rohantwort sollten wir dabei unbedingt mit veröffentlichen, damit jeder nachvollziehen kann, was tatsächlich getestet wurde.

Dann hätten wir am Ende vielleicht sogar etwas wirklich Nützliches für das Forum: eine kleine Methodik, mit der jeder seine eigenen AI-Versuche reproduzierbar statt nur anekdotisch beurteilen kann.

[ArLo62]

Ich würde lieber meine Intuition trainieren. Es gibt tatsächlich Menschen, die Lautsprecher bauen. Die funktionieren, die das rein nach Gefühl machen. Wenn man das Gefühl nicht hat oder gar kein Gefühl für Elektronik hat, sollte man die Finger sowieso davon lassen. Da hilft dann dann noch keine KI, selbst wenn man alles 10 mal durchrechnet. Das ist ja das schöne hier im Forum, dass man an den Erfahrungen der anderen partizipieren kann. Dann braucht man nicht alle Erfahrungen teuer selber zu machen. Ich habe schon für meinen Dutch und Dutch Projekt ein "lessons learned" im Kopf. Diese Erfahrung kann einem keine KI geben. Für grundsätzliche Sachen kann man es vermutlich gebrauchen die KI zu fragen. Für spezielle Projekte finde ich eher nicht.

[timo]

ihr müsst dieses Beispiel nicht nutzen und könnte euch ein eigenes Beispiel nehmen. Ich habe halt ein mir bekanntes Beispiel genommen die No.1: 

   

ich habe hier eine 20 seitige Dokumentation der No.1 mit ChatGPT und Claude gemacht, und wollte jetzt für diesen Test der Funktionalität wissen, ob die Burmester Patente haben, wo sich meine Box drin findet, und ob ich meine Box verbessern kann. Ich weiß, dass Burmester selbst sehr viele Seitenbassboxen hat und bei einem persönlichen Treffen mit Dieter Burmester im Jahr 2010 (bin mir nicht mehr sicher, wann genau) habe ich vieles in dieser Richtung mit ihm, bei Porsche, diskutiert. 

Jetzt wollte ich wissen, ob er Patente in Sachen Seitenbassboxen erstellt hat, und ob dies im Bezug zu meiner No.1 steht. 

Wenn man die Beispiele für sich durchzieht, merkt man sehr schnell, wo die Grenzen der KI sind.

Da muss man keine zwei Wochen drüber diskutieren. Macht bitte selbst diesen oder einen praxisnahen Test.

---

Ich würde lieber meine Intuition trainieren. Es gibt tatsächlich Menschen, die Lautsprecher bauen. Die funktionieren, die das rein nach Gefühl machen. Wenn man das Gefühl nicht hat oder gar kein Gefühl für Elektronik hat, sollte man die Finger sowieso davon lassen. Da hilft dann dann noch keine KI, selbst wenn man alles 10 mal durchrechnet. Das ist ja das schöne hier im Forum, dass man an den Erfahrungen der anderen partizipieren kann. Dann braucht man nicht alle Erfahrungen teuer selber zu machen. Ich habe schon für meinen Dutch und Dutch Projekt ein "lessons learned" im Kopf. Diese Erfahrung kann einem keine KI geben. Für grundsätzliche Sachen kann man es vermutlich gebrauchen die KI zu fragen. Für spezielle Projekte finde ich eher nicht.

um das geht es hier garnicht. Es geht darum, was die KI uns abnehmen kann und ob es eine Erleichterung im Berufsleben ist. Vermutlich gab es zu Computerbeginn ähnliche Diskussionen, ob der Computer besser ist als die altbekannte Schreibmaschine. Zu Anfang sicher nicht und heute kennt niemand mehr eine Schreibmaschine. Und Computer gibt es überall, sogar mein Iphone auf dem ich normalerweise hier ins Forum gehe. 

Mit der Schreibmaschine hätte ich das nicht gekonnt.

[Koaxfan]

Leider denken viele, sie bräuchten dann keine Erfahrung, kein Wissen mehr oder stellen ihr Hirn ganz ab. (...) Allgemein verdoofen wir langsam. 

Funktioniert die KI denn noch nur auf Basis von Large Language Models oder hat man da schon Fortschri5e gemacht? Das würde erklären, warum die Ergebnisse immer chaotischer werden. Gibt es da eigentlich zirkelbezüge, dass ich die KI immer weiter in ihrer eigenen Iteration verfängt?

Mach doch mal das, was Du selbst forderst: Lern dazu! Hole Dir ganz neues Wissen!

Im Kern basieren ChatGPT, Claude, Gemini & Co. weiterhin auf großen Sprach-/Foundation-Modellen. Nur: Heutige KI-Systeme bestehen längst nicht mehr nur daraus: Dazu kommen Websuche, RAG/Datenbanken, Code-Ausführung, Tools, Speicher, Agenten und teilweise klassische deterministische Software. Aber die Qualität einer Antwort hängt mindestens genauso stark von Prompt, Kontext und Einsatzart ab.
Ein vager Prompt wie „Bewerte das mal“ zwingt das Modell, Annahmen selbst zu ergänzen. Ein technischer Prompt mit Ziel, Randbedingungen, Datenbasis und gewünschter Prüfmethode engt den Lösungsraum stark ein. Viele vermeintlich „chaotische KI-Antworten“ sind deshalb schlicht unterbestimmte Aufgaben plus probabilistische Ergänzung.
Auch der Einsatz ist entscheidend: Nutzt man ein LLM als Orakel für Fakten, ist das riskant. Nutzt man es zum Strukturieren, Variantenbilden oder Analysieren und lässt Fakten, Berechnungen oder Berechtigungen extern prüfen, wird das System deutlich robuster.
Der „Zirkelbezug“ kann trotzdem entstehen: Wenn eine falsche Annahme aus einer frühen Antwort wieder in den nächsten Prompt übernommen wird, behandelt das Modell sie zunehmend als gegeben. Bei Agenten kann sich so ein Fehler über mehrere Iterationen verstärken. Das ist aber kein selbstständiges Lernen, sondern Fehlerfortpflanzung im Kontext.
Kurz gesagt: Nicht „die KI wird immer chaotischer“, sondern oft gilt eher: Je unklarer der Prompt und je ungeeigneter der Einsatz, desto größer der Raum für plausible, aber falsche Fortsetzungen.

Anfangs dieses Threads habe ich erklärt, wie man durch richtige Nutzung der AI diesen Spielraum nimmt und dadurch solche Fehler im Ansatz erstickt. Das ist schlicht "artgerechte Haltung"

[Nebenweg]

Ich habe schon für meinen Dutch und Dutch Projekt ein "lessons learned" im Kopf.

Hoffentlich ohne Taschenrechner, ohne CAD-Programm, ohne VituixCad, BoxSim und wie das ganze Teufelszeug noch heißt. Braucht man alles nicht! Erfahrung und Intuition genügen beim Lautsprecherbau vollkommen!

Sorry für meinen Sarkasmus, aber deine Ablehnung maschineller Unterstützung ist meines Erachtens zu einseitig.

[Okulyt]

...Thema. Liste mir alle Patante von Burmester auf, und kombiniere diese Themen mit einer aktuellen Box. 

Der erste Teil ist gut gelungen und auch die Beschreibung der einzelnen Patente funktionieren. ... s. auch Koaxfan unten. 

Aus eigener leidlicher Erfahrung auch mit Vollversionen einiger KIn ... hast du mal die Nummern oder Titel quergecheckt. 
Noch vor ein paar Tagen habe ich es mal wieder gewagt - arbeite in der Patentwelt - den Copiloten nach konkreten Patenten zu befragen bzw. diese suchen zu lassen.
Heilloses Durcheinander - Nummern passten nicht zum Titel oder Anmelder, etc.

Darauf aufmerksam gemacht kam/kommt die freundliche Rückmeldung der KI, dass ich da wohl richtig läge und es sich für die misgeleitete Antwort entschuldige.  

Funktioniert die KI denn noch nur auf Basis von Large Language Models oder hat man da schon Fortschri5e gemacht? Das würde erklären, warum die Ergebnisse immer chaotischer werden. Gibt es da eigentlich zirkelbezüge, dass ich die KI immer weiter in ihrer eigenen Iteration verfängt?

Ebenfalls aus meiner Erfahrung, je länger ein Chat wird und/oder umso mehr Dokumente hochgeladen werden und/oder je mehr Themen angesprochen werden, umso leichter verläuft sich die KI in irgendwelchen "Schwurbelungen".

Ist es erst einmal auf den Zug aufgesprungen, dann hilft ein nochmaliges und präziseres stellen einer Anfrage selten/manchmal.

Weitere Lösungsoptionen: die KI zu einem "Soft-Reset" aufzufordern und/oder "truthmode".

Meist sehe ich zu, dass ich diesen Chat sauber verlasse (KI zur Zusammenfassung und ggf. Listung offener Punkte und Todos auffordere, sowie sich den Chat  zu "merken" (speichern).
Dabei schon gleich im letzten Prompt festlege, dass wohl ein neuer Chat kommt, der falls dieser mit einem SChlüßelbegriff eröffnet wird, an den "alten" Chat anknüpfen soll (nochmal mit einer Zusammenfassung, Listung Todos etc., um ggf. gleich eingreifen zu können, falls etwas fehlt). 

...

1. Burmester-Patente ermitteln → funktioniert. <???>
2. Patente technisch beschreiben → funktioniert. <das glaube ich gerne, vorausgesetzt, die KI hat die Dokumente auch wirklich gefunden und halluziniert nicht, um den gewogenen User zufriedenzustellen!?>  
3. Beziehungen zwischen diesen Patenten und einer aktuellen Box herstellen → läuft gegen die Wand.

Klasse Anleitung:
Das ist eine interessante und vor allem prüfbare Aussage. Ich würde deshalb genau diesen Fall nehmen und die Aufgabe zerlegen:

A – Retrieval: Welche Patente gibt es tatsächlich? Nur Patentnummer, Patentfamilie, Originalquelle.
B – technische Extraktion: Was wird dort tatsächlich beansprucht bzw. technisch gelehrt? Mit konkretem Verweis auf Claim/Beschreibung. Noch keinerlei Bezug zu aktuellen Produkten.
C – Zielsystem: Eine konkrete aktuelle Burmester-Box beschreiben – ausschließlich anhand nachprüfbarer Quellen.
D – Transfer: Für jedes relevante Patentmerkmal prüfen: `direct evidence | functional similarity | superficial similarity | contradiction | insufficient evidence`
Dabei muss „nicht feststellbar“ ausdrücklich ein zulässiges Ergebnis sein.
E – technische Verifikation: Bei jeder behaupteten Beziehung zusätzlich angeben: „Welche Messung, Zeichnung, Schaltungsinformation oder konstruktive Beobachtung würde diese Hypothese bestätigen oder widerlegen?“

...

- Scheitert bereits die Informationsbeschaffung?  <Bei Patenten oftmals ja, da die KI i.d.R. kaum auf den Datenbestand der Ämter oder auch Google Patents zugreifen kann und andere freie Quellen oft nicht verlässlich sind (freepatentsonline, justia>
- Werden Informationen korrekt extrahiert, aber beim Transfer halluziniert?  <m.E.n. ==> JA, oft> 
- Funktioniert der Transfer, wenn die Faktenbasis feststeht?  <m.E.n. ==> JA, sobald man die Patente z.B. als PDF beistellen kann.>
- Fehlen schlicht die öffentlich verfügbaren Daten?   <m.E.n. bei Patenten ==> JA, oft - s.o.> 
- Oder kann das Modell tatsächlich bestimmte technische Zusammenhänge nicht herstellen?  <hier macht, das gezielte, KI angepasste Vorgehen die Musik. Und, darin steck der User-Aufwand, was dann mit dem passenden Background und/oder kritischen Ansicht der Antworten gepaart sein sollte --- ***das ist kein Angriff auf niemanden*** das ist m.E. die KI-Lernkurve> - s. p.s.

So weit mal wieder ein paar 10 Pf meinerseits - Gruß
Rainer

Edit: p.s.:

Genau:

...
Ein vager Prompt wie „Bewerte das mal“ zwingt das Modell, Annahmen selbst zu ergänzen. Ein technischer Prompt mit Ziel, Randbedingungen, Datenbasis und gewünschter Prüfmethode engt den Lösungsraum stark ein. Viele vermeintlich „chaotische KI-Antworten“ sind deshalb schlicht unterbestimmte Aufgaben plus probabilistische Ergänzung.
Auch der Einsatz ist entscheidend: Nutzt man ein LLM als Orakel für Fakten, ist das riskant. Nutzt man es zum Strukturieren, Variantenbilden oder Analysieren und lässt Fakten, Berechnungen oder Berechtigungen extern prüfen, wird das System deutlich robuster.
...

[Koaxfan]

Ich würde lieber meine Intuition trainieren. Es gibt tatsächlich Menschen, die Lautsprecher bauen. Die funktionieren, die das rein nach Gefühl machen. Wenn man das Gefühl nicht hat oder gar kein Gefühl für Elektronik hat, sollte man die Finger sowieso davon lassen. Da hilft dann dann noch keine KI, selbst wenn man alles 10 mal durchrechnet. Das ist ja das schöne hier im Forum, dass man an den Erfahrungen der anderen partizipieren kann. Dann braucht man nicht alle Erfahrungen teuer selber zu machen. Ich habe schon für meinen Dutch und Dutch Projekt ein "lessons learned" im Kopf. Diese Erfahrung kann einem keine KI geben. Für grundsätzliche Sachen kann man es vermutlich gebrauchen die KI zu fragen. Für spezielle Projekte finde ich eher nicht.

Also verbrennt alle Messmikrofone, Computer, ja sogar die Kerzen mit denen man die BR-Kanäle abstimmen kann? Hoch die Intuition, die gefühlte Wahrheit, die Youtuber-Clickbait-Schlagzeilen?

Ich weiß nicht ob der Klinger noch lebt, aber spätestens jetzt hat er entweder einen Herzinfarkt oder dreht sich im Grab um.

P.S.: Wenn wir den ganzen neumodischen Kram verbrannt haben, wie kommen wir dann in dieses Forum?

[timo]

Truthmode kann helfen wenn ki mal wieder Halluzinationen von sich gibt.

[ArLo62]

Moin Koaxfan!
Da hast du wohl was falsch verstanden und deine Beispiele meinst Du ja wohl auch nicht ernst. Was hat denn messen mit KI zu tun. Aber mit DSP kann man viele Sachen lösen, die früher gar nicht gingen. Und wenn man was abschätzen kann, dann geht es viel besser. Da braucht man gar nicht großes Theater drum zu machen. Genauer geht zwar immer, aber eins steht fest, TSP sind Kleinsignal Parameter. Und selbst wenn man da simuliert, muss das nicht immer genau hinhauen. Aber das ist hat immer noch nichts mit KI zu tun. Vermutlich wird die KI irgendwann alles können aber aktuell noch nicht.
Und ja, es lebe der Taschenrechner und das Hirn, um ihn zu benutzen.
Edit: Asimov wird es sich im Grabe umdrehen?

[Nebenweg]

Und ja, es lebe der Taschenrechner und das Hirn, um ihn zu benutzen.

Ist doch bei der KI nicht anders: Es lebe die KI und das Hirn, um sie zu benutzen. Das hat doch Koaxfan schon mehrmals hier im Thread thematisiert: Die Prompts müssen so formuliert sein, daß sie der KI die Möglichkeit nehmen, zu schwurbeln bzw. zu halluzinieren.

Und die Chats nicht zu lange werden lassen, wurde auch erwähnt, dann steigt die Gefahr, dass die KIn zu halluzinieren beginnen. Abgesehen davon, daß ich bei langen Chats selbst den Überblick verliere. Also: Haltepunkte setzen, die KI die bisherigen Ergebnisse zusammenfassen lassen und damit einen neuen Chat beginnen. Es wurden hier im Thread doch schon viele Hinweise zum richtigen Umgang mit KIn gegeben.

[Koaxfan]

Warum ist diese Frage so wichtig, warum reite ich immer wieder auf "Orakel-Prompts" vs. "Sparringspartner" rum? Eine Suchmaschine sucht vorhandene Informationen. Eine KI wie ChatGPT erzeugt eine Antwort.

Eine klassische Suchmaschine arbeitet ungefähr so: Du gibst „Reifendruck Mazda CX-6e“ ein → die Suchmaschine durchsucht ihren Index → bewertet, welche Webseiten vermutlich passen → zeigt dir Links und Textausschnitte.
Die Suchmaschine muss dabei normalerweise nicht verstehen, was du mit der Information anschließend machen willst. Sie versucht vor allem, passende Fundstellen zu finden. Du selbst liest die Quellen, vergleichst sie und ziehst daraus eine Schlussfolgerung.

Bei einer KI wie ChatGPT ist das anders. Sie versucht aus deiner Eingabe zu erschließen:
Was will der Benutzer eigentlich wissen?
Welche Informationen sind relevant?
Welche Zusammenhänge bestehen?
Wie soll die Antwort aufgebaut sein?
Dann konstruiert sie eine neue Antwort. Technisch geschieht das bei einem Sprachmodell, indem es auf Basis des Prompts, des bisherigen Gesprächs und seines erlernten Wissens fortlaufend berechnet, welche Textbestandteile sinnvoll folgen. Dabei wird auf gigantische Datenbestände zugegriffen und dann eben mit einer Suchmaschine die Parameter eines Chassis gesucht, das in der gewünschten Box simuliert und geprüft, ob die Länge des BR-Kanals in dieser Box möglich ist. Es werden also Suchmaschinen, Datenbanken, Rechner oder andere Werkzeuge benutzt und das Ergebnis ansprechend formuliert und visualisiert ausgegeben. Aber auch dann muss das Sprachmodell entscheiden, wonach gesucht werden soll und wie die gefundenen Informationen zu interpretieren sind. Deshalb ist der Prompt so wichtig. Ein Prompt ist bei einer KI weniger mit einem Google-Suchbegriff vergleichbar als mit einem Arbeitsauftrag an einen Mitarbeiter.

Nehmen wir ein einfaches Beispiel. Du schreibst nur:
„Ist Wärmepumpe gut?“
Dann fehlen fast alle Randbedingungen. Die KI muss selbst vermuten, ob es um Kosten, Umwelt, Altbau, Neubau, Deutschland, Stromverbrauch oder Komfort geht. Sie wird deshalb wahrscheinlich eine allgemeine Antwort produzieren.

Schreibst du dagegen: „Ich habe ein Reihenhaus von 1995 bei München, 140 m², Heizkörper und derzeit eine Gasheizung. Ich möchte wissen, ob eine Wärmepumpe technisch sinnvoll ist. Bewerte zunächst nur die technische Machbarkeit, nicht die Wirtschaftlichkeit, und nenne die Informationen, die für eine belastbare Aussage noch fehlen.“
dann ist der Lösungsraum sehr viel kleiner. Die KI weiß nun:

Problem + Kontext + Ziel + Grenzen + gewünschte Vorgehensweise.

Am besten ist eben gerade nicht "gib mir die Lösung" als Auftrag sondern "stelle mir Fragen". Das reduziert die Anzahl der Annahmen, die sie selbst treffen muss, auf Null.

Genau hier entsteht auch ein häufiger Irrtum über KI. Wenn eine Suchmaschine auf eine schlechte Anfrage schlechte Treffer liefert, denkt man meist: „Ich muss besser suchen.“ Wenn ChatGPT auf einen unklaren Prompt eine schlechte Antwort gibt, entsteht dagegen schnell der Eindruck: „Die KI weiß es nicht.“

Manchmal stimmt das natürlich. Aber häufig war die Aufgabe schlicht unterbestimmt. Ein guter Prompt muss deshalb nicht besonders lang oder kompliziert sein. Entscheidend sind meistens vier Dinge:
Was soll erreicht werden?
Welche Randbedingungen gelten?
Welche Informationen stehen bereits fest?
Wie soll mit Unsicherheit umgegangen werden?

Ein besonders wirkungsvoller Zusatz ist zum Beispiel: „Wenn Informationen fehlen, trenne bekannte Fakten von Annahmen und sage, was sich nicht sicher bestimmen lässt.“ Oder gleich in den persönlichen Einstellungen harte Regel aufstellen, dann musss man es erst garnicht eintippen.
Damit verändert man die Aufgabe fundamental. Statt Lücken möglichst plausibel zu füllen, bekommt das Modell den Auftrag, Lücken sichtbar zu machen.

Der vielleicht beste Vergleich ist daher: Google ist eher ein Bibliothekskatalog. ChatGPT ist eher ein sehr schneller Mitarbeiter, der die Bibliothek kennt, recherchieren kann und dir daraus einen Bericht schreibt. Beim Bibliothekskatalog genügt oft ein Stichwort. Dem Mitarbeiter sollte man dagegen erklären, welches Problem er lösen soll.

Und genau deshalb ist Prompting keine magische „KI-Sprache“. Es ist im Wesentlichen saubere Aufgabenbeschreibung. Ich sage bei Konferenzen gerne: Stellt Euch vor, Ihr trefft in einem Cafe eine fremde Person und fragt sie "was ist das beste Auto?" dann wird die Person entweder das antworten was gerade für sie ganz nice wäre (das sind die Fälle, in denen man dann über die AI lacht und sagt "Hahaha, die AI ist so doof, hat mir ein Zweisitzer Cabrio empfohlen, wie soll ich da meine Familie mit Gepäck unterbringen?") oder sie sagt "Häää? Wie jetzt, bestes Auto? Für wen? Oder was?" und dann muss man eben, wenn man sinnvolle Antworten will, eine Menge Fragen beantworten. Weiter vorne bin ich detailliert drauf eingegangen, wie sich die verschiedenen Modelle diesbezüglich unterscheiden. Ein Entwicklungsleiter hat mir mal gesagt: "Unsere AI hat immer nur Schrott geantwortet. Also habe ich ihr mal alles, wirklich alles, über unsere Software erklärt. Und nach einem ganzen Tage habe ich mir gedacht: Krass, so genau habe ich noch nie einem neuen Entwickler unsere Software erklärt.". Das ist ein iterativer Prozess - und wenn man es richtig macht, dann rechtfertigt sich eine AI geradezu dafür, dass sie jetzt tatsächlich die Antwort gibt, weil sie jetzt genug Informationen hat. 

Wie kommt man da ran?
1. Eine gute AI nehmen. Also Finger weg von Gemini, Copilot und Grok
2. Nie nach dem Ergebnis fragen sondern nach dem Prozess. AIs wissen wie AIs funktionieren, also können sie perfekt Prompts schreiben. Klingt komisch, zuerst eine AI zu beauftragen eine Arbeitsanweisung zu schreiben und dann zu sagen "jetzt führe das aus" aber es funktioniert einfach einfach. 
3. Bonus-Level: Gerne am Ende eine Dokumentation schreiben lassen - was war die Aufgabe, was waren die vier obigen Vorgaben, was war das Ergebnis. Das als md-File exportieren lassen, in eine andere AI werfen und fragen: Was kannst Du besser? Und ja, dabei sind AIs erstaunlich ehrlich. Ich habe schon mal mit einem wissenschaftlichen Paper AI-Ping-Pong gespielt und dann sagte eine AI: "Die Variante der anderen AI war besser, ich nehme die als Basis und verbessere nur diese drei Punkte, die bei mir besser waren".

[Okulyt]

Warum ist diese Frage so wichtig, warum reite ich immer wieder auf "Orakel-Prompts" vs. "Sparringspartner" rum? Eine Suchmaschine sucht vorhandene Informationen. Eine KI wie ChatGPT erzeugt eine Antwort.

... ganzer Post ... genau so und KLASSE...

Mit ausgeschaltetem Hirn funktioniert mit der KI fast nichts vernünftig.
So, wie eigentlich bei all den anderen Werkzeugen die genannt wurden - Taschenrechenknecht, Rechenschieber,..., Abacus oder was auch immer jemand nutzt. 

Nur mit Modus "HIRN EIN" ist der Nutzer in der Lage a) die Antworten einzuordnen und b) die Fragen richtig zu stellen.

Modus "HIRN AUS" ... da haben schon einige Schüler* ihr "blaues - besser rotes - Wunder" erlebt und sicher auch jede Menge andere Nutzer, wenn Sie mit den Antworten hausieren gegangen sind**. 
(* komme nur darauf, da unser Sohnemann, da so einige Anekdoten mit/über seine Mitschüler erlebt hat. "Was und Erklärst du Krieg 30 jährig!")
(** vor kurzem gab´s einen Bericht darüber, wie Gerichte mit Klagen (KI Klageschriften) überzogen werden, die rechtlich Unwissende sich aus dem blauen heraus haben zusammenfabulieren lassen - wenn da die KI schwurbelt... viel Spaß... "vor Gericht und auf hoher See , und so ...". Und, wenn man dann noch vergisst die Prompts und die Antwortsätze der KI zu löschen. Ich habe fertig!.)  

Ein KI ist kein All-Heilmittel, sondern ein Werkzeug.
Das kann man nutzen, muss aber nicht.

"Oh Herr lass Hirn vom Himmel fallen..." - gabs schon vor 40 Jahren - "... oder Steine Hauptsache du triffst die Richtigen."  
Beim aufkommen der Taschenrechner wurde auch der Untergang der denkenden (?) Zivilisation heraufbeschworen. 

Irgendwie fällt mir da ger der "Anhalter" ein , insb. Marvin:  
   

Die Erde:
Eintrag im Reiseführer: Im galaktischen Reiseführer Per Anhalter durch die Galaxis wurde die Erde ursprünglich mit nur einem einzigen Wort beschrieben: „Harmlos.“
Später wurde der Eintrag nach einigen Recherchen von Ford Prefect erweitert zu: „Meistens harmlos.“


[*]OK das hat vom Thema weg geführt ... klasse Post, Koaxfan. 

Rainer

[Azrael]

Ist doch heute schon so, dass viel Wissen verloren gegangen ist und es gar keine Universalisten mehr gibt.

Hm, das sehe ich aber komplett anders:

Universalisten haben es deshalb heute schwerer als früher, weil das Wissen im Laufe der Jahrhunderte enorm zugenommen hat, so dass es schlicht nicht mehr möglich ist, jedes Wissensgebiet in der Tiefe zu erfassen, wie es ein Spezialist könnte.