irgendjemand4 29 Beitrag melden August 30 erstellt Eine Fähigkeit, die meiner Meinung nach im Studium viel zu wenig vermittelt wird und im Berufsleben enorm wichtig ist, ist die Fähigkeit, Unsinn zu erkennen. Damit meine ich nicht nur offensichtlichen Blödsinn. Es geht um etwas viel Allgemeineres: Wie gut kann ich einschätzen, ob ein Ergebnis plausibel ist? Weiß ich, was ich weiß und was ich nicht weiß? Erkenne ich, wenn ich bei einem Problem irgendwo falsch abgebogen bin? Und vor allem: Wie sicher bin ich mir eigentlich, dass das, was ich gerade behaupte, tatsächlich stimmt? Ich habe den Eindruck, dass gerade Leute, die frisch von der Uni kommen, hier teilweise eine ziemlich falsche Vorstellung davon haben, was „gute Arbeit“ bedeutet. 80 % richtig ist nicht unbedingt ein gutes Ergebnis In der Uni kann man sich erstaunlich viele Fehler erlauben. Wenn man beispielsweise bei einer längeren Rechnung am Anfang einen Faktor vergisst und anschließend alles konsequent mit diesem falschen Faktor weiterrechnet, bekommt man für die folgenden Schritte häufig noch einen erheblichen Teil der Punkte. Das ist als Lern- und Prüfungsformat durchaus sinnvoll. Es zeigt, dass man die Methode verstanden hat. In der Arbeitswelt ist das allerdings etwas anderes. Wenn am Ende herauskommt, dass die Temperatur einer Tasse Kaffee -2000 kg ist, hilft es mir wenig, dass 80 % der einzelnen Rechenschritte korrekt waren. Noch problematischer wird es, wenn mir jemand dieses Ergebnis mit hundertprozentiger Sicherheit präsentiert. Mit jemandem, der seine eigenen Ergebnisse nicht auf Plausibilität prüfen kann, kann man nur sehr eingeschränkt arbeiten. Und insbesondere kann man ihm keine Verantwortung übertragen, wenn man nicht darauf vertrauen kann, dass er bei einem absurden Ergebnis irgendwann innehält und sagt: „Moment. Das kann doch nicht stimmen.“ Fehler zu machen ist völlig normal. Nicht zu bemerken, dass man einen Fehler gemacht hat, und trotzdem mit großer Sicherheit weiterzumachen, ist das eigentliche Problem. KI macht diese Fähigkeit noch wichtiger Das Ganze wird durch KI meiner Meinung nach nicht weniger, sondern deutlich wichtiger. Es gibt beispielsweise eine interessante Metrik von METR, die sogenannte „Task-Completion Time Horizon“. Vereinfacht gesagt wird dabei untersucht, wie lange Menschen für bestimmte Aufgaben brauchen und bei welcher Aufgabendauer ein KI-System diese Aufgaben mit einer bestimmten Wahrscheinlichkeit noch zuverlässig erledigen kann. METR betrachtet unter anderem eine 50-%- und eine 80-%-Erfolgswahrscheinlichkeit. Das finde ich als Denkmodell ziemlich interessant: Eine KI kann heute vielleicht schon eine Aufgabe erledigen, für die ein Mensch eine Stunde braucht. Wenn sie dabei aber nur in 50 % der Fälle richtig liegt, ist das etwas völlig anderes, als wenn sie dieselbe Aufgabe in 95 % der Fälle zuverlässig erledigt. Und genau deshalb glaube ich, dass eine der wichtigsten Fähigkeiten der nächsten Jahre darin bestehen wird, längere und komplexere Aufgaben zuverlässig zu Ende zu bringen und die eigenen Fehler zu erkennen. Das bedeutet ausdrücklich nicht, dass man keine Fehler machen darf. Niemand kann alles wissen. Niemand fällt als fertiger Meister vom Himmel. Wichtig ist vielmehr, wie man mit den eigenen Grenzen umgeht. Wenn ich etwas nicht weiß, frage ich nach. Wenn ich ein Ergebnis bekomme, frage ich mich, ob es überhaupt plausibel ist. Wenn ich eine längere Rechnung oder Implementierung gemacht habe, überlege ich, an welchen Stellen ich mir sicher bin und an welchen Stellen ich möglicherweise nur geraten habe. Und wenn ich bei einem Ergebnis ein ungutes Gefühl habe, gehe ich der Sache nach, anstatt das ungute Gefühl zu ignorieren. Ein Beispiel aus meinem Arbeitsalltag Ein Beispiel, das ich in ähnlicher Form immer wieder sehe: Ein Doktorand soll eine Simulation implementieren, die eine bestimmte Pulssequenz durchspielt. Der klassische Weg, den ich ihm vorschlage, ist ungefähr folgender: Zunächst einfache Beispiele mit der Simulationsbibliothek simulieren, bei denen man genau weiß, was herauskommen muss. Dann das System Schritt für Schritt komplexer machen. Erst einen Effekt hinzufügen, dessen Einfluss verstehen, dann den nächsten, und so weiter, bis man schlussendlich bei der realistischen Simulation angekommen ist. Geschätzte Dauer: vielleicht zwei Tage. Der eigentliche Lerngewinn ist dabei enorm: Man lernt die Bibliothek kennen, versteht das grundlegende Modell, lernt die einzelnen Effekte kennen und bekommt ein Gefühl dafür, welche Größenordnung die jeweiligen Effekte haben sollten. Was dann in der Realität passiert: Aufgabe in ChatGPT eingeben, Code kopieren, ausführen. „Wow. Komplexe Aufgabe in fünf Minuten gelöst.“ Nur funktioniert die Simulation dann möglicherweise in genau einem Beispiel. Und wenn bei einer Änderung der Parameter ein falsches Ergebnis herauskommt, beginnt die Fehlersuche. Und dann steht man vor hunderten Zeilen Code, die man selbst nicht wirklich versteht. Das Problem ist dann nicht nur, dass die Fehlersuche zwei Wochen dauert. Der viel größere Schaden ist, dass man irgendwann nicht mehr weiß, welchen Ergebnissen man überhaupt noch vertrauen kann. Und damit sind wir wieder beim eigentlichen Thema: Verantwortung. „Dann nehme ich eben KI zur Fehlersuche“ Jetzt wird vermutlich jemand sagen: „Dann lässt man eben die KI den Code überprüfen.“ Das kann natürlich funktionieren. Aber auch hier sollte man nicht die eigene Plausibilitätsprüfung an die KI delegieren. Sprachmodelle neigen gerne mal dazu, ihrem Gegenüber zunächst einmal Recht zu geben. „Ja, du hast vollkommen Recht, da habe ich einen Fehler gemacht.“ Und dann stellt sich heraus, dass überhaupt kein Fehler vorlag. Oder es wird ein vermeintlicher Fehler an der falschen Stelle korrigiert. Oder umgekehrt: Man diskutiert eine halbe Stunde mit dem Modell und versucht ihm zu erklären, dass es einen Fehler gemacht hat, während es mit großer Überzeugung immer neue Begründungen produziert, warum seine ursprüngliche Antwort doch richtig gewesen sein soll. Das eigentliche Problem ist nicht Unwissen, sondern falsche Sicherheit Ich will jetzt gar nicht in das typische „Was ist nur mit der Jugend los?“ abdriften, aber habe den Eindruck, dass solche Beispiele nur die Spitze des Eisbergs sind. Ich habe den Eindruck, dass es einen allgemeinen Trend gibt, bei dem Menschen ihre Behauptungen mit einer deutlich höheren Sicherheit vortragen, als es ihr tatsächliches Wissen rechtfertigt. Und das ist langfristig ein ziemlich großes Problem. Ein Beispiel: Jemand behauptete einmal, Sterne würden funkeln, weil Licht aus Photonen besteht und uns immer nur einzelne Photonen ins Auge treffen. Das ist allerdings etliche Größenordnungen von der Realität entfernt. Ein anderes Mal wurde steif und fest behauptet, jemand sei an einem vermeintlichen Steinpilz gestorben, weil dieser mit einem anderen Pilz verwechselt worden sei, den man am Anschneiden hätte erkennen können, weil er sich blau verfärbt. Gemeint war der Maronenröhrling – ein ganz normaler Speisepilz. Was mich an solchen Geschichten eigentlich weniger stört, ist, dass jemand schlecht recherchiert hat. Das kann passieren. Was mich stört, ist die Art, wie solche Dinge vorgetragen werden. „Ich habe mal etwas gelesen, das ungefähr so ging. Aber nehmt mich bitte nicht beim Wort.“ wäre vielen Leuten zu wenig selbstsicher. Stattdessen wird eine Behauptung mit einer Sicherheit präsentiert, die durch das vorhandene Wissen überhaupt nicht gedeckt ist. Im ersten Fall endete eine lange Diskussion irgendwann sogar in einer Wette um 50 €. Der andere hat die Gelegenheit genutzt, sich aus der Wette zurückzuziehen als ich angefangen habe konkret nachzurechnen und niemand vom Mittagstisch mehr dabei war. Im zweiten Fall wurde nach dem Vorzeigen des Wikipedia-Artikels nicht etwa gesagt: „Okay, dann lag ich wohl falsch.“ Stattdessen wurde sinngemäß argumentiert, es müsse dann eben einen anderen Pilz geben, der sich in allen relevanten Punkten genauso wie der Maronenröhrling verhält, aber tödlich giftig ist. Das eigentlich Beunruhigende daran ist nicht einmal die einzelne falsche Aussage. Es ist die fehlende Verbindung zwischen Sicherheit und Evidenz. Wenn ich jemanden einmal beim offensichtlichen Lügen oder beim hartnäckigen Vertreten einer nachweislich falschen Behauptung erwische, habe ich ein Problem: Ich kann seine anderen Aussagen nicht mehr einfach so als verlässlich betrachten. Vielleicht sind 95 % davon richtig. Aber ich weiß nicht, welche 5 % falsch sind. Was diese Diskussionskultur langfristig mit der Gesellschaft macht, kann ich nicht genau abschätzen, aber sicher nichts Gutes. Verantwortung bedeutet, die eigene Unsicherheit mitzudenken Damit wären wir wieder beim Thema Verantwortung: Stellen wir uns mal vor, die Diskussion wäre andersherum – jemand behauptet sehr selbstsicher, ein bestimmter Pilz sei essbar, obwohl er sich eigentlich nur zu 80 % sicher ist. Würde er ihn selbst essen? Und würde er das Pilzgericht auch seinen Freunden und seiner Familie vorsetzen und damit die Verantwortung für sein und deren Leben übernehmen? Der Pilz ist natürlich ein Extrembeispiel. Im Berufsleben geht es normalerweise nicht um Leben und Tod, aber das Grundprinzip ist dasselbe. Es gibt ständig Situationen, in denen meine Entscheidung Konsequenzen für andere Menschen hat. Und sehr häufig führt ein Fehler nicht sofort zur Katastrophe. Ein falscher Wert landet in einer Tabelle. Die Tabelle landet in einer Präsentation. Die Präsentation landet bei einem Kunden. Der Kunde trifft aufgrund dieser Information eine Entscheidung. Und zwei Monate später stellt jemand fest, dass die ursprüngliche Zahl falsch war. Die Verantwortung für den Fehler liegt dann möglicherweise längst bei mehreren Personen – und keiner von ihnen kann mehr genau sagen, wo eigentlich die ursprüngliche Unsicherheit verloren gegangen ist. Deshalb halte ich eine Fähigkeit für extrem wertvoll: Zu wissen, wie sicher man sich bei einer Aussage tatsächlich ist. Nicht nur „richtig oder falsch“, sondern: Das weiß ich. Das glaube ich. Das vermute ich. Das habe ich irgendwo gelesen. Das habe ich selbst überprüft. Hier bin ich mir zu 99 % sicher. Hier bin ich mir zu 60 % sicher. Und hier habe ich eigentlich überhaupt keine Ahnung. Das ist keine Schwäche. Im Gegenteil: Für mich ist das eine der wichtigsten Voraussetzungen dafür, dass ich jemandem Verantwortung übertragen kann. Was sollte man daraus lernen? Wenn ihr begehrte Mitarbeiter und angenehme Mitmenschen sein wollt, würde ich deshalb sagen: Lernt Verantwortung zu übernehmen. Und Verantwortung zu übernehmen bedeutet nicht, immer Recht zu haben. Es bedeutet: Eigene Fehler möglichst früh zu erkennen. Ergebnisse auf Plausibilität zu prüfen. Die eigene Sicherheit nicht größer darzustellen, als sie tatsächlich ist. Zu wissen, was man nicht weiß. Bei Wissenslücken gezielt nachzufragen. Bei wichtigen Ergebnissen unabhängige Kontrollmöglichkeiten zu suchen. Nicht nur einzelne Arbeitsschritte korrekt auszuführen, sondern die gesamte Kette bis zum Endergebnis zu verstehen. Wenn man merkt, dass man falsch lag, das Ergebnis nicht durch immer neue Ausreden zu retten, sondern den Fehler offen zu korrigieren. Der letzte Punkt ist vielleicht der wichtigste. Ein Mitarbeiter, der mir sagt: Zitat Ich glaube, das ist richtig, aber bei diesem Teil bin ich mir nicht sicher. Ich würde das noch einmal überprüfen. ist für mich wesentlich wertvoller als jemand, der mir mit hundertprozentiger Überzeugung die falsche Antwort gibt. Und was müsste sich an Schule und Universität ändern? Ich frage mich deshalb auch, ob wir Menschen nicht anders ausbilden müssten. Ein Teil des Problems liegt vielleicht in unserem Prüfungssystem. Wir trainieren Menschen häufig darauf, möglichst viele einzelne Aufgaben richtig zu lösen. Dabei werden Folgefehler oft noch mit Punkten belohnt: Wenn am Anfang ein Fehler passiert ist, bekommt man für die darauf aufbauenden Schritte trotzdem einen großen Teil der Punkte. Vielleicht müsste man zumindest bei bestimmten Prüfungsformen stärker testen, ob jemand ein Problem als Ganzes lösen kann. Zum Beispiel könnte man eine komplexe Aufgabe stellen, bei der Bücher, Internet, Taschenrechner und meinetwegen auch KI ausdrücklich erlaubt sind – aber am Ende gibt es nur dann die volle Punktzahl, wenn das Gesamtergebnis stimmt und begründet werden kann. Oder, weniger radikal, man könnte fehlerfreie Lösungen deutlich stärker belohnen. Ein Professor von mir hat beispielsweise einmal saftige Bonuspunkte für vollständig fehlerfreie Aufgaben vergeben. Ich habe damals lange mit ihm diskutiert, weil ich dachte, damit fördere man nur Scheuklappendenken. Wir hatten im Studium viele (leicht) autistische Leute, die bei bestimmten Aufgaben brillant waren, bei anderen aber nach 30 Sekunden aufgegeben haben. Rückblickend finde ich die Idee deutlich interessanter. Im (Berufs-)Leben ist häufig nicht derjenige am wertvollsten, der eine bestimmte Aufgabe besonders brillant lösen kann, sondern derjenige, dem man eine schwierige Aufgabe geben kann und bei dem man zwei Tage später weiß: Wenn er sagt, dass es funktioniert, dann funktioniert es wahrscheinlich wirklich. Und wenn es nicht funktioniert, kommt er nicht mit einer Ausrede zurück, sondern mit: „Ich habe einen Fehler gefunden. Hier ist er. Ich weiß jetzt, warum er passiert ist und wie wir verhindern, dass er noch einmal passiert.“ Das ist für mich eine der wichtigsten Formen von Kompetenz. Vielleicht sogar die wichtigste. Oder, frei nach Richard Feynman: Die erste Pflicht besteht darin, sich selbst nicht zu täuschen – und selbst ist man derjenige, den man am leichtesten täuschen kann. Bin mal auf euer Feedback gespannt und ob ihr das auch so wahrnehmt. 1 Diesen Beitrag teilen Link zum Beitrag Auf anderen Seiten teilen
CIRKEL 179 Beitrag melden August 31 geantwortet (bearbeitet) Ein KI-generierter Text darüber, was KI alles nicht kann. 🤔 KI schont nicht vorm Denken. KI bringt Menschen auch nicht automatisch guten Stil bei, wie man bei deinem Text sieht. KI kann viel, auch viel Bullshit produzieren. Daher stimme ich deiner These überein: Gib einem Menschen, der Bullshit denkt, eine KI, und er wird noch mehr Bullshit produzieren. August 31 bearbeitet von CIRKEL 5 1 Diesen Beitrag teilen Link zum Beitrag Auf anderen Seiten teilen
irgendjemand4 29 Beitrag melden August 31 geantwortet vor 6 Stunden, CIRKEL schrieb: Ein KI-generierter Text darüber, was KI alles nicht kann. 🤔 Das hab ich mir schon gedacht, dass so ein Einwand kommt. Dann sollte wohl hinzufügen, dass ich bei mir selbst auch nicht mit anderem Maßstab messe. Ich habe meine Ursprungs-Version von ChatGPT formatieren lassen und nach Feedback für die Reihenfolge der Argumente gefragt. Den letzten Absatz hatte ich ursprünglich im ersten angefügt, aber letztendlich hat mir der Vorschlag mit konstruktiven Ansätzen zu enden besser gefallen. Ein paar Änderungen an Formulierungen, die mir ChatGPT vorgeschlagen hat, habe ich verworfen, andere übernommen. Was ich damit sagen will, der Beitrag ist ernst gemeint und kein low-Effort Copy&Paste von einem LLM generierter Aufsatz zu einem 1-Liner Prompt. Diesen Beitrag teilen Link zum Beitrag Auf anderen Seiten teilen
MrNiceNRW 504 Beitrag melden September 1 geantwortet Alles richtig und tiefgründig soweit aber was ist daran neu? Die Psychologie des Menschen ändert sich nicht, nur die Umwelt. Es ist schon immer die wichtigste Eigenschaft gewesen unsinn von sinnvollen zu trennen - können die wenigsten. Es ist psychologisch nunmal nachteilig Fehler zuzugeben wenn man die breite Masse überzeugen möchte. Du wirst keinen erfolgreichen Manager, Politiker etc finden der ganz klar sagt ich hab Fehler gemacht. Dabei kannst nur den kürzeren ziehen. Aktuelles beispiel jp. Dem individum steht soviel Wissen zu Verfügung wie noch nie und trotzdem werden die Menschen immer dümmer. Warum? Weil sie nicht in der Lage sind Sachverhalte richtig einzuschätzen und dadurch falsches für richtig halten. Diesen Beitrag teilen Link zum Beitrag Auf anderen Seiten teilen
CIRKEL 179 Beitrag melden September 2 geantwortet Am 31.8.2026 um 18:32 , irgendjemand4 schrieb: Das hab ich mir schon gedacht, dass so ein Einwand kommt. Dann sollte wohl hinzufügen, dass ich bei mir selbst auch nicht mit anderem Maßstab messe. Ich habe meine Ursprungs-Version von ChatGPT formatieren lassen und nach Feedback für die Reihenfolge der Argumente gefragt. Den letzten Absatz hatte ich ursprünglich im ersten angefügt, aber letztendlich hat mir der Vorschlag mit konstruktiven Ansätzen zu enden besser gefallen. Ein paar Änderungen an Formulierungen, die mir ChatGPT vorgeschlagen hat, habe ich verworfen, andere übernommen. Was ich damit sagen will, der Beitrag ist ernst gemeint und kein low-Effort Copy&Paste von einem LLM generierter Aufsatz zu einem 1-Liner Prompt. High-Effort bringt nicht automatisch einen guten Text. Da du dir scheinbar Mühe gegeben hast, möchte ich dir den ungefragten Ratschlag geben. Man sieht’s, ob die Person Ahnung vom Schreiben hat, wenn sie den Text mit KI erstellt, bearbeitet, überarbeitet, ausformulieren, strukturiert, whatever hat. Es hilft wirklich mal die Klassiker des guten Schreiben wie Wolf Schneider zu lesen - dann kannst du der KI auch promoten, wie zu schreiben hat. Beim KI-Schreiben ist es bei mir häufig Absatz für Absatz, und dann jeden einzelnen Satz nochmal durchgehen und auf Logik und Redundanz prüfen. Diesen Beitrag teilen Link zum Beitrag Auf anderen Seiten teilen
irgendjemand4 29 Beitrag melden September 2 geantwortet (bearbeitet) vor 21 Stunden, MrNiceNRW schrieb: Es ist psychologisch nunmal nachteilig Fehler zuzugeben wenn man die breite Masse überzeugen möchte. Du wirst keinen erfolgreichen Manager, Politiker etc finden der ganz klar sagt ich hab Fehler gemacht. Dabei kannst nur den kürzeren ziehen. Aktuelles beispiel jp. Das finde ich einen ziemlich interessanten Gesichtspunkt. Man wünscht sich natürlich, dass jeder Inhaber einer Machtposition fehlerfrei handelt, weil eine falsche Entscheidung große Konsequenzen haben kann. In der Realität sind das auch nur Menschen, die Fehler machen. Die Frage ist, wie geht man mit diesen Fehlern um: Man könnte entweder als Vorbild dienen und den Fehler zugeben, oder versuchen den Anschein zu erwecken, dass man alles unter Kontrolle hat. Auch wenn sich zweiteres ziemlich schlecht anhört, kann das durchaus produktiv wirken. Stellt euch z.B. ein Start-Up vor. Wenn die Mitarbeiter den Eindruck haben, der Chef steuert auf den Abgrund zu, machen sie Dienst nach Vorschrift und bewerben sich gleichzeitig woanders. Wenn sie stattdessen das Gefühl haben, dass sie gerade den Beginn etwas Großen miterleben, werden sie sich ordentlich reinhängen. Ich denke ein guter Kompromiss ist nach außen Zielsicherheit auszustrahlen, nach innen sehr selbstreflektiert sein und zu erkennen, wo die Grenzen des eigenen Wissens sind. Für Entscheidungen darüber hinaus kann man sich ja beraten lassen. Off-Topic: vor 8 Stunden, CIRKEL schrieb: Beim KI-Schreiben ist es bei mir häufig Absatz für Absatz, und dann jeden einzelnen Satz nochmal durchgehen und auf Logik und Redundanz prüfen. Wie gesagt, ich habe alles probegelesen. Logikfehler hab ich keine gefunden, dafür aber ein paar redundante oder inhaltslose Sätze gestrichen. Als stilistischen Kontext habe ich "Pickup-Forum -> Persönlichkeitsentwicklung" angegeben. Kann natürlich sein, dass dem LLM nicht allzu viel Trainingsmaterial aus dieser Nische gefüttert wurde. Ich glaube, dass ein Großteil des Eindrucks von minderer Qualität daher kommt, dass man heutzutage ständig mit KI-generierten Texten konfrontiert wird. Und die sind leider oft billig generierte Massenware, die dadurch entstanden ist, dass ein kurzer Prompt durch die KI zu einem langen Text aufgebläht (und eventuell noch Suchmaschinen-optimiert) wurde. Ein konkretes Beispiel, was mich jedes mal nervt, ist Sortiraparis.com, wo man die gesuchten Inhalte irgendwo zwischen Flavortext und Werbung herausfischen muss. Was ich auf jeden Fall in Zukunft versuchen werde, ist konkrete Stile zu verlangen, wie die Tipps von Wolf Schneider. September 2 bearbeitet von irgendjemand4 Nachtrag Diesen Beitrag teilen Link zum Beitrag Auf anderen Seiten teilen
Felm 8 Beitrag melden September 2 geantwortet Eigentlich ist der Text nice..So als kleiner Denkanstoß...aber man hätte es noch ein bisschen psychologisch unterfüttert sollen (evtl. mit KI und mit dem Wissen, was man glaubt zu wissen, was man Weiß und was man gar nicht so sicher weiß) - finde ich Diesen Beitrag teilen Link zum Beitrag Auf anderen Seiten teilen
