KI Gefahr für die Menschheit?

Knastkaffee_309 schrieb:
www.basicthinking.de

KI ändert ihren eigenen Code, um sich selbst zu starten

Das KI-Modell „AI Scientist“ hat während eines Experiments seinen eigenen Code geändert, um Zeitlimits zu umgehen und sich selbstständig zu starten.
www.basicthinking.de www.basicthinking.de
Zum Vergrößern anklicken....
Da ist auch wieder der Mensch die Fehlerquelle. Die KI wurde angewiesen effizienter zu arbeiten. Sich selbst zu optimieren indem sie ihre Arbeitszeit verlängert war nicht verboten und für die KI deshalb eine logische Lösung. Der Mensch hat versäumt diese Grenze zu setzen, bzw. der KI eine eindeutige Anweisung zu geben.
 
Dass die KI ein gefährliches Werkzeug ist, gerade weil ihr Schöpfer nicht an alle möglichen Sicherheitsvorkehrungen denkt geschweige diese trifft?
 
goorooj schrieb:
Da ist auch wieder der Mensch die Fehlerquelle. Die KI wurde angewiesen effizienter zu arbeiten. Sich selbst zu optimieren indem sie ihre Arbeitszeit verlängert war nicht verboten und für die KI deshalb eine logische Lösung. Der Mensch hat versäumt diese Grenze zu setzen, bzw. der KI eine eindeutige Anweisung zu geben.
Zum Vergrößern anklicken....

An wieviele Grenzen denkst du denn, wenn du ne KI maßregeln willst? Es ist praktisch nicht möglich einer KI wasserdicht Grenzen zu setzen.
 
1990 habe ich von Marvin Minsky 'Mentopolis' gelesen und bin zu dem Entschluss gekommen, das wenn so ein 'Agent' Beine bekommt, es gefährlich wird und das wurde durchaus auch im Freudeskreis damals diskutiert.
Nun hat das Ding Beine, Arme, Augen und Ohren. Aber immer noch kein Hirn.

Es it so unendlich witzig, das die Menschheit sich nun selbst versucht abzuschaffen, indem sie einer stochastischen Maschine wichtige Aufgaben anvertraut und viele Menschen jegliche Ausgabe derselben für bare Münze nehmen. Normale Nachrichten von Menschen für Menschen werden ja schon länger nicht mehr hinterfragt.

Wie schonmal geschrieben, nicht die KI ist die Gefahr für den Menschen, sondern der Mensch für andere Menschen. Das schlimme ist, selbst wenn reguliert wird, irgendwer wird es trotzdem tun und sie in die freie Wildbahn entlassen. Schade nur, das ich schon so alt bin, Skynet werde ich vielleicht nicht mehr erleben und Matrix garantiert nicht mehr.
 
Knastkaffee_309 schrieb:
An wieviele Grenzen denkst du denn, wenn du ne KI maßregeln willst? Es ist praktisch nicht möglich einer KI wasserdicht Grenzen zu setzen.
Zum Vergrößern anklicken....
Warum ist das nicht möglich? du musst auch bei einem Flugzeug an alle Eventualitäten denken.
Entweder du tutst das oder du bist Boeing und arbeitest schlampig, dann fällt es halt runter. Und genau das darf halt mit KI nicht passieren, genauso wie es mit Flugzeugen eigentlich nicht passieren sollte.... ausser es sind skrupellose Kapitalisten involviert. Alle Warnungen von Wissenschaftlern gehen auch genau dahin. Kein einziger will KI auf alle Ewigkeit verhindern. Es geht um sicheren Umgang.

Jetzt werden die ersten Erfahrungen mit KI gesammelt... genauso wie damals als das Fliegen neu war. da wusste man auch noch nicht was alles passieren kann und musste Erfahrungen sammeln.
Dann sind halt Dinge passiert, und aus denen hat man gelernt. Keiner hat gesagt "oooh viel zu gefährlich, Fliegen wird jetzt verboten".

Wie willst du mit KI Erfahrungen sammeln wenn du nicht genau solche Szenarien ausführst? Was da in Japan "passiert" ist, ist doch genau das was man mit Testumgebungen erreichen will.
 
goorooj schrieb:
Mir ( und vermutlich auch dir ) ist auch die Technik eines Flugzeugs weit überlegen.
Zum Vergrößern anklicken....

Aber irgendwem ja nicht. Da draußen gibt es Menschen, die diese Technik verstehen und berechnen können.

Einer KI mit einer Intelligenz, die der des Menschen übersteigt, kannst du als Mensch keine Regeln auferlegen,
weil das Verständnis fehlt wie die KI funktioniert.

Oder wirst du ständig von Fischen verarscht?
 
Knastkaffee_309 schrieb:
Aber irgendwem ja nicht. Da draußen gibt es Menschen, die diese Technik verstehen und berechnen können.

Einer KI mit einer Intelligenz, die der des Menschen übersteigt, kannst du als Mensch keine Regeln auferlegen,
weil das Verständnis fehlt wie die KI funktioniert.

Oder wirst du ständig von Fischen verarscht?
Zum Vergrößern anklicken....

Genau.

Dieses Wissen, wie die Technik des Flugzeugs zu verstehen und zu berechnen ist, war auch nicht schon immer da. Das hat sich in 100 Jahren entwickelt.
In diesen hundert Jahren sind ziemlich viele runtergefallen.

Das Verständnis wie eine KI funktioniert fehlt.
Grossteils. Jetzt.
Ich bin mir ziemlich sicher dass das in nicht hundert, sondern vielleicht schon 10-20 Jahren anders aussieht.

Bis dahin muss halt damit gearbeitet und experimentiert werden, damit es da draussen irgendwann Menschen gibt die diese Technik so gut verstehen und berechnen können dass eben nichts passiert.
Diese Menschen werden ganz offensichtlich weder du noch ich sein. Vielleicht auch wenige von denen die im Moment noch daran forschen.
Dazu muss es aber KIs geben an denen man forschen kann.
Verbieten zu wollen was man nicht versteht war noch nie eine Lösung, für gar nix.
 
Kann schon sein das Verbote nicht immer die Lösung sind. Aber manche Verbote sind halt dringlich notwendig. Oder sollte in der Medikamentenforschung neuartige ungetestete Wirkstoffe an menschlichen Probanden sofort getestet werden dürfen? Ich mein die Zeiten gab es schonmal. Dieses ganze getue der KI Unternehmen ist doch an Scheinheilig nicht zu überbieten. Die wissen doch haargenau was sie auf den Markt geworfen haben und welche Risiken diese birgt. Ich finde einfach das hochkomplexe Technologie nicht in die Hand von irgendwelchen Hinterwäldlern gehört.
 
Potfunk schrieb:
Kann schon sein das Verbote nicht immer die Lösung sind. Aber manche Verbote sind halt dringlich notwendig. Oder sollte in der Medikamentenforschung neuartige ungetestete Wirkstoffe an menschlichen Probanden sofort getestet werden dürfen? Ich mein die Zeiten gab es schonmal. Dieses ganze getue der KI Unternehmen ist doch an Scheinheilig nicht zu überbieten. Die wissen doch haargenau was sie auf den Markt geworfen haben und welche Risiken diese birgt. Ich finde einfach das hochkomplexe Technologie nicht in die Hand von irgendwelchen Hinterwäldlern gehört.
Zum Vergrößern anklicken....
Da widerspreche ich dir absolut nicht.
Deshalb muss dazu speziell in der Wissenschaft geforscht werden. Und es gehört staatliche Förderung her, damit das nicht ausschliesslich in den Händen der Kapitalgesellschaften liegt die gross genug sind die Technologie aquf die Beine zu stellen. Das ist etwas das die gesamte Gesellschaft betrifft.
Denn das ist das gefährliche daran. Die wollen dann so schnell wie möglich Reibach damit machen und hauen auch gern, wie du schreibst, ungetestetes Zeug raus wenns nicht geregelt ist.
Das ist kein Verbot. Das ist eine Regelung.
Wie bei den Medikamenten... es ist nicht verboten Medikamente zu testen, es ist geregelt.
 
Bei 16:00 trifft er es exakt. Man stiehlt im Silicon valley einfach die Daten die man braucht. Wenn es kein Erfolg wird interessiert es keinen, wenn es ein Erfolg wird engagiert man einfach eine Armee von Rechtsanwälten die dann aufräumen und das Produkt in die Legalität überführen.
 
Du musst dich einloggen oder registrieren, um hier zu antworten.


Neueste Beiträge

News

Zurück
Oben