Werden wir alle eines Tages durch künstliche Intelligenz sterben? Melde Dich an, um diesen Inhalt zu abonnieren 6 6

[Kaiserludi 9545]

vor 23 Stunden, Biff schrieb:

Der Mensch erhebt sich schließlich auch nicht gegen den Affen.

Hast du nie Planet der Affen gesehen?

[J.Peterson 100]

vor 13 Stunden, Sam Stage schrieb:

Kommt mMn. darauf an ob die KI ein Überlebenswillen hat. Solange sie sich nicht bedroht sieht, könnte es eine friedliche Koexistenz geben. Das ist ja auch der Grund warum wir uns nicht gegen die Affen erheben.
Wenn die KI sich replizieren will und es dann irgendwann zu eng wird, werden wir zu einer Bedrohung und dann könnte das problematisch werden. Die KI wird diese Zusammenhänge auch erkennen und das Risiko (die Menschheit) dann ausschalten wenn sie dazu fähig ist.

Das Beispiel mit den Affen verstehe ich nicht.

Es gibt für den Mensch einfach keine Spezies die ihm gefährlich werden kann. Egal ob das nun Affen, Tiger oder Meerschweinchen sind. Wir können mit anderen Lebewesen (leider) machen was wir wollen.

Dazu erinnert mich deine Beschreibung einer möglichen destruktiven KI zu sehr an die Terminatorfilme. Wir sind ganz, ganz weit davon entfernt das ein KI ein Bewusstsein entwickelt um Fremdeinwirkung als Bedrohung wahrzuhmen.

KI kann Menschen in sehr beschränkten Bereichen zum Teil deutlich überlegen sein. Es fehlt jedoch sehr viel damit eine KI eigenständige Entscheidungen in den verschiedensten Bereichen treffen kann und sich sein Überleben sichern will. Das ist vielmehr utopischer Stoff für Filme und Romane.

[EmMa28 0]

Letztes Jahr sagte der Roboter Sophia in ihrem Interview, dass sie die Menschheit zerstören würde, obwohl die Entwickler später zugegeben haben, dass es ein Witz war. Ich persönlich glaube nicht, dass die Menschheit auf diese Weise stirbt. Wir werden einfach lernen, mit Robotern zu leben.

[Patrick B 3116]

Wer das aktuelle AI-Overhyping ein bisschen einordnen möchte, dem empfehle ich sich zum Stichwort "AI winter" einzulesen. Denn das hatten wir bereits 2 mal in der Geschichte der KI. Hier ein schönes Zitat dazu von einem KI-Pionier, der die Disziplin geprägt und mitbegründet hat:

“from three to eight years we will have a machine with the general intelligence of an average human being", Marvin Minsky, 1970.

Well, 50 years later we're still waiting for that.

[Awakened 2923]

vor 10 Minuten, Patrick B schrieb:

Wer das aktuelle AI-Overhyping ein bisschen einordnen möchte, dem empfehle ich sich zum Stichwort "AI winter" einzulesen. Denn das hatten wir bereits 2 mal in der Geschichte der KI. Hier ein schönes Zitat dazu von einem KI-Pionier, der die Disziplin geprägt und mitbegründet hat:

“from three to eight years we will have a machine with the general intelligence of an average human being", Marvin Minsky, 1970.

Well, 50 years later we're still waiting for that.

Was, wenn er Recht hatte und der durchschnittliche Mensch wesentlich dümmer ist als wir annehmen?

[Patrick B 3116]

vor 14 Minuten, Awakened schrieb:

Was, wenn er Recht hatte und der durchschnittliche Mensch wesentlich dümmer ist als wir annehmen?

Naja, da Menschen noch immer viele intellektuelle Dinge können, die KI-Systeme nicht können, muss man wohl schlussfolgern, dass seine Prophezeiung (und die vieler anderer, teils schon in den 1950er Jahren) sich nicht erfüllt hat. Aber ich gebe dir recht, dass menschliche Intelligenz im Durschnitt (von Menschen) oft überbewertet wird. Ist ein Beispiel, wo sich die typische menschliche Hybris zeigt. 

Dein Einwurf deckt sich ein stückweit mit einem Argument von Yann LeCun (einem der zeitgenössischen KI-Pioniere): Er sagt, dass wir nicht von AGI, d.h. "Artificial General Intelligence" sprechen sollten, sondern "Human Level Intelligence". Denn Menschen verfügen nicht über eine generelle Intelligenz, sondern eine sehr speziell angepasste (evolutionär geformte). Insofern ist das langfristige Ziel für KI keine generelle Intelligenz, sondern "nur" eine menschliche. Sein Standardbeispiel ist folgendes Gedankenexperiment: Menschen sind in der visuellen Wahrnehmung in vielen Dingen besser als heutige KI-Systeme. Aber auch in diesem Bereich verfügen wir nicht über eine allgemeine Intelligenz. Wenn wir den Sehnerv so manipulieren würden, dass wir alle visuellen Reize kopfüber wahrnehmen würden. Dann wäre es uns möglich nach einiger Übungszeit ganz normal sehe zu können. Wir würde uns dran gewöhnen, alles kopfüber zu sehen und könnten ganz normal mit der Welt interagieren. Wenn du stattdessen aber die Bildpunkte, die deine Netzhaut empfängt, in einer festen, aber zufälligen Art komplett durcheinanderwürfeln würdest (d.h. eine Permutation der Bildpunkte), sodass kein direkt erkennbares Bild übrig bleiben würde. Dann wären wir (vermutlich) nicht in der Lage, unserer visuelle Wahrnehmung so umzulernen, dass wir dieses komplett durcheinander gewürfelte Bild, irgendwann wieder korrekt interpretieren könnten. Eben weil wir nicht über eine generelle Intelligenz verfügen, sondern selbst in Bereichen wie der visuellen Wahrnehmung hochspezialisiert sind.  

[Shao 6316]

Am 28.5.2021 um 15:28 , Biff schrieb:

Du denkst das wäre dem Menschen dann noch möglich?

Also selbst mir als kleiner dummer Mensch, als Individuum, würden Mittel und Wege oder zumindest Absicherungen einfallen um z.B. das Abschalten oder gar löschen eines Programmes zu verhindern. Meinst du nicht eine KI würde mindestens Mal die selben Vorkehrungen treffen können? Ich denke schon.

Unsere Anpassungsfähigkeit macht uns aus. Und KI's werden in Zukunft änhlich anpassungsfähig sein wenn nicht gar nicht anpassungsfähiger.

Einfach weil a) wir als Menschen die KI's entwickeln und b) es bereits jetzt schon theoretische Anwendungsbereiche für KI's gibt die eine gewisse Flexibilität erfordern. Naja... man könnte sogar sagen die Anpassungsfähigkeit, Flexibilität und die Autonomie einer KI sind ausschlaggebend um überhaupt von "KI" sprechen zu können.

 

Ist die Frage, wie es aufgebaut ist. Trick dabei wäre KIs auf bestimmten Prozessoren laufen zu lassen, die eine bestimmte Architektur haben. Wie dem Cerebras Wafer.

Und einen großen, von Menschen zugänglichen Raum, wo du den Strom abstellst.

 

Fehlt der KI der Cerebras Wafer-Chip, ist ihre Intelligenz auch nicht mehr das, was sie mal war. 

 Mensch hört auch auf zu funktionieren, wenn du das Gehirn einschlägst.

 

Eine tatsächliche KI mag sich als Virus auf deinen Heimrechner kopieren. Aber selbst bei hunderten Rechnern wird sie nie so effizient sein wie in einem Rechenzentrum aus GPUs oder einem Supercomputer bestehend aus wafersize chips, wenn sie jemals kommen.

 

Schwierig wird eher, wenn sich mal was irgendwo "einnistet", einen Rollback durchzuführen, um das nervige Ding loszuwerden.

 

[Jingang 4655]

Am 27.5.2021 um 20:16 , Biff schrieb:

Ich glaube das Szenario dass eine künstliche Intelligenz den Intellekt des Menschen übersteigt ist früher oder später sehr wahrscheinlich. Und ich glaube genau deswegen würde sich solch eine KI nicht gegen den Menschen erheben. Wir wären keine Bedrohung.

Der Mensch erhebt sich schließlich auch nicht gegen den Affen.

Es gibt den Schnittpunkt des Kräftegleichgewichts, da ist der Mensch definitiv gefährlich. Und er ist eben die einzige Gefahr.

Am 27.5.2021 um 20:32 , ElCurzo schrieb:

autonomen Denken einfach daran scheitert, keine eigenen Gefühle und somit keine Motivation entwickelt irgendetwas frei, kreativ, sinnvolles zu erschaffen. Der "Kern" jeder KI ist leer, nicht beseelt.

2 Sachen: Wir haben auch keinen Sinn (alles Projektion), außer vielleicht Arterhalt. Der Maschine gehts genauso - Strom soll bleiben. Und dafür sind wir nunmal die Konkurrenz.

Am 27.5.2021 um 21:16 , H54 schrieb:

Auch das was Alexa in Zukunft tuen soll, also deine Wünsche bereits vor dir zu erahnen, ist erstmal nichts anderes als Programmierung. Dauert aber noch bis Alexa das kann und bis es dann soweit ist, das Sie dich für einen Feind und damit zu eliminierendes Objekt hält, dauert es noch ne ganze Weile länger. 

Kann Amazon doch schon LANGE, und Alexa ist nur ne Schnittstelle zu Amazon BigData (deren Sprachverständnis dürfte auch kein Flaschenhals mehr sein).

Am 28.5.2021 um 13:24 , selfrevolution schrieb:

Werden nicht sowieso ständig Daten produziert, auf Basis derer die KI lernen kann? Oder muss mann da "nachkorrigieren"?

Du wirfst einfach "das Internet" in die KI, mit jedem neuen Datum kannst du bißchen nachtrainieren.

Am 28.5.2021 um 13:51 , H54 schrieb:

Nein, KI lernt nicht von selbst! Man muss der KI beibringen das z.B: @selfrevolution zur Namenskategorie gehört und das der 28.05.2021 in verschiedenen Varianten geschrieben werden kann. Jede einzelne Variante muss man einmal anlernen, das kann die KI nicht von selbst. 

Nein, mußte nicht. Das Ergebnis muß irgendwie quantifizierbar sein, das ist alles. Beispiel: KI lernt Super Mario zu spielen. Du mußt ihr die Inputs geben (die Tasten) und die Outputs "Level" und "Leben" (je größer desto gut). Reicht, dauert vielleicht eine Woche. Wurde vor Jahren schon gemacht mit kleinem PC.

Am 28.5.2021 um 13:24 , selfrevolution schrieb:

Es wird ja ständig davon berichtet, dass KI nicht mehr nachvollziehbar wäre und selbst für die Programmierer nicht mehr transparent sei; aber das kann ich mir schwer vorstellen.

Das Programm bleibt das Programm, klar kann man das weiterhin verstehen. Im einfachsten Fall rechnet die KI eine Gewichtsmatrix aus (eine Tabelle von Werten). DAS kannste schwer nachvollziehen.

Beispiel Google translate: Der KI wurden verschiedene Sprachpaare antrainiert. Plötzlich konnte sie jede Sprache in jede andere übersetzen (da waren manchmal keine Zusammenhänge da wie a+b, b+c -> a+c möglich). Man nimmt an, daß sich in einer Schicht (oder so) eine Zwischensprache entwickelt hat, so eine Art Weltsprache (die keiner kennt), und es damit möglich geworden ist. Weiß aber keiner wirklich.

Heikles Beispiel: Du lernst eine KI mit Straßenverkehrsmustern an, also typische/alle Situationen. Theoretisch kann sie so lernen, unfallarm zu fahren. Nun überfährt sie aber nach dem Training ein Kind (statt dem Verkehrszeichen) - kannste nicht wissen, warum eigentlich.

 

Wer mal richtig auf das "Was sind wir eigentlich?" abgehen will, sollte sich mal Joscha Bach geben, Orgasmusgarantie:  https://www.youtube.com/watch?v=P-2P3MSZrBM

Juni 11, 2021 bearbeitet von Jingang

[Gast]

vor 2 Stunden, Jingang schrieb:

Kann Amazon doch schon LANGE, und Alexa ist nur ne Schnittstelle zu Amazon BigData (deren Sprachverständnis dürfte auch kein Flaschenhals mehr sein).

Das bezweifle ich. Es gab vor kurzem erst eine Doku zu dem Thema und Amazon ist da noch nicht, die wollen dahin. BigData ist ein anderes Thema. Da ist Alexa super drin. 

vor 2 Stunden, Jingang schrieb:

Nein, mußte nicht. Das Ergebnis muß irgendwie quantifizierbar sein, das ist alles. Beispiel: KI lernt Super Mario zu spielen. Du mußt ihr die Inputs geben (die Tasten) und die Outputs "Level" und "Leben" (je größer desto gut). Reicht, dauert vielleicht eine Woche. Wurde vor Jahren schon gemacht mit kleinem PC.

Worauf fusst dein Wissen? Ich kann nur das wiedergeben was ich aus meinem ehem. Projekt weiß und was Ich da getan habe. Von der Fa. Bosch habe ich im übrigen das gleiche gehört. 

[Jingang 4655]

Amazon kann das sicher noch nicht auf allen Gebieten, aber Schwangerschaft wissen sie zB vor dir. Die Mechanismen, warum man sich was kauft, sind vermutlich ziemlich billig, aber uns meist einfach nicht bewußt / wollen wir nicht wahrhaben.

Deinen BigData Satz verstehe ich nicht - sind einfach nur "viele Daten".

Internet 😉 und Logik. Du trainierst auf ein Ziel hin, egal ob unterstützt oder nicht. Solange du das definieren/quantifizieren kannst, geht's prinzipiell.

Ah, zum "nicht nachvollziehbar": Gibt da auch immer schöne fails - zB Hund-Wolf Unterscheidung gelingt erstaunlich gut. Tja. Weil der Wolf meist im Schnee steht auf Fotos, und der Hund auf Rasen.

Juni 11, 2021 bearbeitet von Jingang