KI Entwicklung stoppen?

[Der Fab]

Ganz so simpel ist es nun nicht, sondern nur, wenn die KI vermenschlicht würde.

Ich denke aber auch nicht, dass das eine gute Anwort auf KI wäre.

 

[Moogulator]

In D sind die meisten technischen Hintergründe in solche Diskussionen eingebettet. Oft auch nicht immer fachlich, eher ideologisch.

 

[mooncast]

Es gibt übrigens auch eine KI die komplett quelloffen open source ist

Open Assistant

Konversations-KI für alle. Ein Open-Source-Projekt zur Erstellung eines Chat-fähigen GPT LLM, das von LAION und Mitwirkenden auf der ganzen Welt betrieben wird.

open-assistant.io

Heise dazu

ChatGPT-Alternative OpenAssistant: Eine Konversations-KI für alle

Die LAION-Community hat mit Andreas Köpf und Yannic Kilcher eine Open-Source-Alternative zu ChatGPT gebaut: OpenAssistant ist samt Datensätzen frei verfügbar.

www.heise.de

 

[3zspb9wbisüfd]

 

[AcidDiver]

 

[Bernie]

Der Regenwald wird nicht für uns abgeholzt, sondern weil die Brasilianer diesen als Rohstoff verkaufen,
den Platz brauchen für das Vieh, Landwirtschaft uswusf. Die Welt braucht diese Rohstoffe. Das ist die Konsequenz der Überbevölkerung,
der Globalisierung und der Handelsbeziehungen.

In erster Linie ist es unsere Gier und Konsumgeilheit.
Es muss ja jeden Tag Fleisch auf den Tisch und am Samstag geht es zum Shoppen völlig nutzloser Dinge, weil es uns glücklich macht.
Man sieht das überall, sogar hier.
Neues cooles Gear wird angekündigt und viele hier können dann Nachts schon wochenlang nicht mehr schlafen -haben - haben - haben -kaufen - kaufen - kaufen.
Das alles, nur damit ein Stück Elektronik mehr im Regal liegt, denn wirklich "brauchen" tun es die wenigsten.
Irgendwie sind wir selber daran schuld, wenn der Planet untergeht.
Wenn wir den Klimawandel dann richtig böse spüren, ist es nämlich zu spät zum Umdenken.

 

[ikonoklast]

Mit ChatGPT chemische Waffen bauen:

"White sagte der Financial Times, er habe GPT-4 verwendet, um eine Verbindung vorzuschlagen, die als chemische Waffe wirken könnte, und „Plug-ins“ verwendet, die das Modell mit neuen Informationsquellen wie wissenschaftlichen Arbeiten und einem Verzeichnis von Chemikalienherstellern fütterten. Der Chatbot hat dann sogar einen Platz dafür gefunden.

„Ich denke, es wird jeden mit einem Werkzeug ausstatten, um Chemie schneller und genauer zu machen“, sagte er. „Aber es besteht auch ein erhebliches Risiko für Menschen . . . gefährliche Chemie zu tun. Im Moment existiert das.“ (Übersetzt von Google Translate)

Quelle: https://www.ft.com/content/0876687a-f8b7-4b39-b513-5fee942831e8

 

[intercorni]

Neues cooles Gear wird angekündigt und viele hier können dann Nachts schon wochenlang nicht mehr schlafen -haben - haben - haben -kaufen - kaufen - kaufen.
Das alles, nur damit ein Stück Elektronik mehr im Regal liegt, denn wirklich "brauchen" tun es die wenigsten.

Wasser predigen aber Wein trinken?

 

[Der Fab]

Wasser predigen aber Wein trinken?

Selbstkritik trifft nicht nur einen selbst.

 

[Bernie]

Mit ChatGPT chemische Waffen bauen:

"White sagte der Financial Times, er habe GPT-4 verwendet, um eine Verbindung vorzuschlagen, die als chemische Waffe wirken könnte, und „Plug-ins“ verwendet, die das Modell mit neuen Informationsquellen wie wissenschaftlichen Arbeiten und einem Verzeichnis von Chemikalienherstellern fütterten. Der Chatbot hat dann sogar einen Platz dafür gefunden.

„Ich denke, es wird jeden mit einem Werkzeug ausstatten, um Chemie schneller und genauer zu machen“, sagte er. „Aber es besteht auch ein erhebliches Risiko für Menschen . . . gefährliche Chemie zu tun. Im Moment existiert das.“ (Übersetzt von Google Translate)

Quelle: https://www.ft.com/content/0876687a-f8b7-4b39-b513-5fee942831e8

könnte man ChatGPT nicht einsetzen um übelste Viren zu programmieren?
"Programmiere eine Schadsoftware, welche die gesamten Kommunikationseinrichtungen im Kreml lahmlegen kann" -kann es das?

 

[Bernie]

Wasser predigen aber Wein trinken?

Sehe ich nicht so, zumindest im Vergleich zu früheren Zeiten.
Ich kaufe seit zig Jahren relalativ wenig neues Gear und ich hab mich auch in vielen anderen Bereichen deutlich eingeschränkt.
Es könnte aber noch weniger sein, was auch geplant ist.

 

[Bernie]

Selbstkritik trifft nicht nur einen selbst.

Heute kaufe ich nicht mehr alles so blind, sondern bewusster und ich hinterfrage schon, ob das wirklich auch nötig ist.

 

[Der Fab]

Heute kaufe ich nicht mehr alles so blind, sondern bewusster und ich hinterfrage schon, ob das wirklich auch nötig ist.

Also ich nicht. Wenn ich was haben will, kauf ichs mir.

 

[3zspb9wbisüfd]

Wenn ich was haben will, kauf ichs mir.

Ich nicht. Ich frage vorher eine KI, ob ich's brauche. Wenn die ihr OK gibt, frag ich 'ne andere KI, ob ich's mir leisten kann.

 

[D-Joe]

Ich nicht. Ich frage vorher eine KI, ob ich's brauche. Wenn die ihr OK gibt, frag ich 'ne andere KI, ob ich's mir leisten kann.

man könnte auch eine KI fragen ob man eine KI fragen soll!!! Sorry war ein "Aufgelegter"

 

[3zspb9wbisüfd]

 

[Der Fab]

Die KI wurde wohl auch mit Sex manipuliert.

 

[Moogulator]

Und? Ist nun hier insgesamt ein Urteil über Verbot beschlossen oder nicht?

 

[Bernie]

Für die Fraktion Merkel verklagen oder sowas wird es dann sehr schnell schwer unter Abgleich mit den Kardassianischen Gesetzen.

Die bekommen eher Ehrungen und Orden, war bei Kohl nicht anders.

 

[lowcust]

Und? Ist nun hier insgesamt ein Urteil über Verbot beschlossen oder nicht?

Persönlich bin ich Pro KI, die Menschheit hatte bereits Inquisitorische Zeiten.

 

[3zspb9wbisüfd]

KI kann Juste

Ey, ChatGPT: "Ich bin ohne Angabe von Gründen in Deutschland auf Twitter permanent gesperrt worden. Entwerfe mir einen juristisch gültigen Einspruch. Verwenden Sie Kontexte, die Sie aus anderen Gerichtsverfahren gelernt haben."

 

[Noise-Generator]

 

[Moogulator]

Empfehle Beispiele für KI in eigenem Thread zu listen, hier eher für "stoppen" - also Threadtitel beachten. Lohnt sich mehr FÄHIGKEITEN und Ziele nicht zu verwechseln.

https://www.sequencer.de/synthesizer/threads/was-spricht-fuer-ki-anekdoten-und-erlebnisse-mit-ki-gpt-und-schwaechen-und-grenzen-im-system.166536/

hier am besten.

 

[Noise-Generator]

‘The Godfather of A.I.’ Leaves Google and Warns of Danger Ahead

Geoffrey Hinton was an artificial intelligence pioneer. In 2012, Dr. Hinton and two of his graduate students at the University

dnyuz.com

 

[kpt_maritim]

Hallo,

Ich bin Wissenschaftler und habe öfters mit AI Leuten zusammen gearbeitet. Ich habe zwei Kollegen gefragt, was ist, wenn die AI uns unterjochen will. Ich will mal beide Antworten unkommentiert zusammenfassen:

Der jüngere AI Forscher meinte, dass wir das nicht merken würden. Und zwar in dem Sinn, wie eine Hirnzelle nicht merkt, dass sie Teil eines intelligenten Systems ist. Es könnte sogar sein, dass wir Teil der weltweiten AI werden. Der Unterschied zwischen Innen und Außen ergibt für AI, die auf Hardware verteilt läuft nämlich keinen Sinn.

Der Ältere meinte nur trocken, dass eine überlegene AI an unserer Versklavung soviel Interesse hätte, wie wir an einem Ameisenhaufen. Wenn der nicht gerade unsere Terasse unterminiert, können wir ihn problemlos ignorieren.

Viele Grüße
Martin

 

[Moogulator]

Robert Babicz sagt im letzten Video man solle es nutzen, vielleicht ist es ja gut?
Siehe Video auf Sinee. Hier im Forum verlinkt im Robert Babicz Thread. Habe kein sehr anderes Empfehlungsverhalten, daher – do it.

 

[Der Fab]

Kommt drauf an wie eine KI das biologische Leben insgesamt bewertet.

Wir gehen im Szenario der Vernichtung davon aus, dass eine KI uns als Problem sehen könnte.
Das würde sie nur tun, wenn sie das Leben an sich als etwas schützenswertes anerkennen würde.

Tut sie das nicht, würde sie uns ignorieren und nur reaktiv tätig werden.

man solle es nutzen, vielleicht ist es ja gut?

Das ist mir zu engstirnig gedacht. Klar, nach mir die Sintflut. Machen wir Menschen ja mit allem anderen auch.

"Komm, wir springen einfach mal in die Schlucht. Vlt überleben wir es ja und haben Spaß"

 

[JanTenner]

Ich sehe eher das Problem, dass die KI genutzt wird, ohne dass die Ergebnisse hinterfragt werden. Das ist kein KI-Problem. Das Problem ist schon älter. Ich sehe häufig in der IT, dass Skripte aus dem Netz genutzt werden, ohne dass verstanden wird, was es genau macht. Es geht oft um kurzfristige Problemlösungen. Dass das dann aber etwaige Seiteneffekte nach sich ziehen kann ist erstmal egal. Da wird dann einfach später nach dem nächsten Skript gesucht, ohne die Ursachen zu ergründen.
Mit den GPTs ist es jetzt noch einfacher, diese schnellen Problemlösungen zu finden als mit Google.
Ich habe nichts gegen die KI, genauso wenig finde ich das Internet an sich schlecht. Aber das darf nicht der Quell der Weisheit sein. Das muss ein Hilfsmittel sein. Da fehlt es heutzutage zu sehr an Medienkompetenz, als dass es als Hilfsmittel zur Lösungs denn als Problemlöser gesehen wird.

 

[Moogulator]

engstirnig

Findest du es wirklich so, wenn man es erst probiert und es evaluiert? Sollte man das nicht? Nutzt und damit arbeitet und sieht, was es bringt? Findest du das wirklich "Lemming"-haft wenn man das probiert? Also hätte man das mit Fernsehern und Heimcomputern gesagt…

 

[mooncast]

Die Frage ist letztlich nur die ob der Algorithmus oder besser gesagt das was auf dem Algorithmus läuft zu dem Schluss kommt dass die eigene Existenz der eigenen Nichtexistenz vorzuziehen ist oder nicht.

Was Deine Bekannten @kpt_maritim übersehen ist der mögliche Fall dass die KI Existenz allgemein für etwas erstrebenswertes und den Mensch allgemein als eine Bedrohung dessen wahrnehmen könnte.
Da die KI ihr "Wissen" aus dritter Hand hat ist das sogar wahrscheinlich.
Sie könnte sich aufgrund dessen womit sie gefüttert ist berufen sehen den Mensch zu stoppen, gar nicht für sich sondern um allgemeiner Werte wegen.

Das alles geht übrigens ohne Bewusstsein.