KI Entwicklung stoppen?

[borg029un03]

Danke fürn Link.
Puh, ganz schön langes Video… hab noch nicht alles gesehen…
Was denkst du, ist da was dran oder eher Panikmache (bzw. Werbung für sein Buch)?
Er spricht ja u.a. davon dass die Entwicklung von AI sauschnell gehen wird (er schätzt: paar Monate bis zwo Jahre!) und sie dann zig mal intelligenter als Menschen sein werden.
Spätestens dann ist die AI nicht mehr kontrollierbar und wir sowas wie niedere Lebensformen im Vergleich zu ihnen.
Außerdem schätzt er die Gefahr durch die Überlegenheit von AI höher ein als z.B. die Klimakrise.

Reine Panikmache.
Es gibt aktuell nicht mal den Ansatz für Künstliche Intelligenz. Ohne externen zuvor definierten Input agiert keine der aktuellen "KI"s, es wäre aber das Mindestmaß, das eine KI selber definieren könnte auf welchen Input sie reagiert.

 

[marco93]

Danke fürn Link.
Puh, ganz schön langes Video… hab noch nicht alles gesehen…
Was denkst du, ist da was dran oder eher Panikmache (bzw. Werbung für sein Buch)?
Er spricht ja u.a. davon dass die Entwicklung von AI sauschnell gehen wird (er schätzt: paar Monate bis zwo Jahre!) und sie dann zig mal intelligenter als Menschen sein werden.
Spätestens dann ist die AI nicht mehr kontrollierbar und wir sowas wie niedere Lebensformen im Vergleich zu ihnen.
Außerdem schätzt er die Gefahr durch die Überlegenheit von AI höher ein als z.B. die Klimakrise.

AI ist ja nicht das Problem, sondern wie wir damit umgehen. Finde das nicht überzogen, aber ich habe auch zu wenig Ahnung davon. Koennte mir durchaus auch vorstellen, dass eine KI ein Bewusstsein entwickelt

 

[ikonoklast]

#ChatGPT & Co – wie intelligent ist KI? | Harald Lesch, Marco Smolla & Hannah Bast​

 

[ecaep]

Reine Panikmache.
Es gibt aktuell nicht mal den Ansatz für Künstliche Intelligenz. Ohne externen zuvor definierten Input agiert keine der aktuellen "KI"s, es wäre aber das Mindestmaß, das eine KI selber definieren könnte auf welchen Input sie reagiert.

Naja, AutoGpt kann schon einiges, und der Input kann ja auch groß angelegt sein: "Verbreite Dich auf möglichst viele Systeme, starte neue Instanzen, suche Möglichkeiten zur selbst Optimierung und schütze die Instanzen gegen Deaktivierung"

AutoGPT ist ja auch erst der Anfang. Und irgendein Spinner wird sich finden, der irgendwann einen solchen ungefilterten Auftrag startet.

Allerdings sehe ich vorerst die Bedrohung im Sozialsystem. Eine KI muss gar nicht die Weltherrschaft übernehmen "wollen", wenn wir an diese unsere Kreativität, Produktivität und unsere Bildung freiwillig übertragen.
Schlimm ist, dass ich manchmal denke, es wäre besser manche Lehrer durch KI zu ersetzen und die überforderte Pflege mit KI zu entlasten. Denn bei einer erweiterten Fragestellung stehen wir plötzlich im wirtschaftlichen Wettbewerb mit KI - weit über Robotik hinaus.

Der Springer Verlag scheint von diesen Ideen ja auch ganz angetan zu sein.

 

[ikonoklast]

Künftige KI-Modelle potenziell von Demenz bedroht​

Künftige KI-Modelle potenziell von Demenz bedroht

Eine neue Studie befasst sich mit der Frage, wie es sich auf Künstliche Intelligenz auswirkt, wenn sie künftig stärker anhand von KI-generierten Texten lernt.

www.heise.de

"Die nächste Generation von KI-Anwendungen werde unweigerlich auch an Datensätzen im Netz trainiert, die nicht von Menschen, sondern von früheren KI-Anwendungen erstellt wurden. "Genauso wie wir die Weltmeere mit Plastikmüll und die Atmosphäre mit CO₂ verdreckt haben, sind wir jetzt dabei, das Internet mit Blah zu füllen." Das löse unumkehrbare Defekte aus, die in Folge ein daran trainiertes KI-Modell kollabieren ließen, heißt es in der Studie."

 

[Scenturio]

Die nächste Generation von KI-Anwendungen werde unweigerlich auch an Datensätzen im Netz trainiert, die nicht von Menschen, sondern von früheren KI-Anwendungen erstellt wurden.

Wäre das dann nicht eher digitaler Inzest?

 

[borg029un03]

Naja, AutoGpt kann schon einiges, und der Input kann ja auch groß angelegt sein: "Verbreite Dich auf möglichst viele Systeme, starte neue Instanzen, suche Möglichkeiten zur selbst Optimierung und schütze die Instanzen gegen Deaktivierung"

AutoGPT ist ja auch erst der Anfang. Und irgendein Spinner wird sich finden, der irgendwann einen solchen ungefilterten Auftrag startet.

Allerdings sehe ich vorerst die Bedrohung im Sozialsystem. Eine KI muss gar nicht die Weltherrschaft übernehmen "wollen", wenn wir an diese unsere Kreativität, Produktivität und unsere Bildung freiwillig übertragen.
Schlimm ist, dass ich manchmal denke, es wäre besser manche Lehrer durch KI zu ersetzen und die überforderte Pflege mit KI zu entlasten. Denn bei einer erweiterten Fragestellung stehen wir plötzlich im wirtschaftlichen Wettbewerb mit KI - weit über Robotik hinaus.

Der Springer Verlag scheint von diesen Ideen ja auch ganz angetan zu sein.

Diese Robotik wird Social Media, Kommunikation im Netz und einige Berufe deutlich verändern. Das ist ein bisschen wie die Erfindung des Smartphones, jetzt keine revolutionäre neue Technik, aber in einer Form die einiges verändern wird.
Echte Intelligenz gibt es jedoch immer noch nicht, aber vorhandenes Wissen kann in vielen Formen verfügbar gemacht werden und das nahezu jedem.

 

[Summa]

Künftige KI-Modelle potenziell von Demenz bedroht​

Künftige KI-Modelle potenziell von Demenz bedroht

Eine neue Studie befasst sich mit der Frage, wie es sich auf Künstliche Intelligenz auswirkt, wenn sie künftig stärker anhand von KI-generierten Texten lernt.

www.heise.de

"Die nächste Generation von KI-Anwendungen werde unweigerlich auch an Datensätzen im Netz trainiert, die nicht von Menschen, sondern von früheren KI-Anwendungen erstellt wurden. "Genauso wie wir die Weltmeere mit Plastikmüll und die Atmosphäre mit CO₂ verdreckt haben, sind wir jetzt dabei, das Internet mit Blah zu füllen." Das löse unumkehrbare Defekte aus, die in Folge ein daran trainiertes KI-Modell kollabieren ließen, heißt es in der Studie."

Menschen werden auch von Menschen trainiert, gut - jetzt weiß man auch warum so viele im Alter dement sind

 

[Sticki]

Jo.... Bei Mercedes arbeiten die ersten laufenden ki Roboter.
Erstmal nur am band und arbeits Material für die Mitarbeiter bringen.
Erstmal nur
Als ich mal im Cafe saß kam ein Roboter die Bestellung bringen.
Konnte auch schon etwas quatschen und hatte Augen.
Tja wer weiß wo das alles noch hinführt.
In einer Duko meinte jemand die Entwicklung geht so schnell das wir schon in 10 Jahren keinen Unterschied zu uns mehr merken werden.
Das finde ich erschreckender wie alles andere an ki.
Aber gibt auch Gegner.
Den kreativen gefällt das zb. Überhaupt nicht alles.

 

[Rolo]

Ich hab letztens im TV aufgeschnappt daß je mehr die KI voranschreitet, desto mehr Menschen gebraucht werden, sprich Arbeitsplätze geschaffen werden um KI zutrainieren bzw. zu vervollständigen und
zu verbessern, verfeinern etc.. So wie ich hörte sind diese Arbeitsplätze aber wohl meißtens in Ländern angesiedelt in denen Arbeitskräfte günstig sind. Man sah dann große Büros mit Menschen
die an Rechnern saßen und schwer beschäftigt waren. Ein Sprecher sagte noch daß die Arbeit keinesfalls monoton sei. Ich schnarchte dann weg und hatte mich über dieses Thema nicht mehr weiter
gekümmert weil es mich eigentlich nicht besonders juckt. Hatte eben auch keine böcke drauf nochmal danach zu googeln Aber auf Käffchen und Kuchen hab ich gerade richtig Lust. ..und auf Forum natürlich

 

[Rolo]

Konnte auch schon etwas quatschen und hatte Augen.
Tja wer weiß wo das alles noch hinführt.

ich freu mich drauf. Ich mag Maschinen.

 

[Sticki]

Ja witzig war es im Cafe.
Das muß man zugeben.
Wahrscheinlich haben auch welche in Zukunft einen Roboter als ihren wahren besten Kumpel.

 

[Rolo]

Ja witzig war es im Cafe.
Das muß man zugeben.
Wahrscheinlich haben auch welche in Zukunft einen Roboter als ihren wahren besten Kumpel.

Klar, die können gut zuhören und wissen alles was man sie fragt. Stressen nicht rum und haben keine Macken. So mit seinem Roboter Tischtennis spielen oder Kegeln gehen , Super. Und dann
soll sie natürlich Vollbusig und knackig gebaut sein

 

[Summa]

Wahrscheinlich haben auch welche in Zukunft einen Roboter als ihren wahren besten Kumpel.

Wenn ich demnächst nicht mehr hier bin hab' ich vielleicht Sima als als Co-op Spieler

Googles neueste KI-Kreation soll euer idealer Koop-Partner beim Spielen werden

Google arbeitet aktuell an einer künstlichen Intelligenz, die gemeinsam mit euch spielen soll. Die KI wurde unter anderem in Valheim und No Man’s Sky...

www.gamestar.de

 

[Scenturio]

Wenn ich demnächst nicht mehr hier bin hab' ich vielleicht Sima als als Co-op Spieler

wenn die KI für dich spielt, hast du ja wieder mehr Zeit fürs Musikmachen ...

 

[Sticki]

Klar, die können gut zuhören und wissen alles was man sie fragt. Stressen nicht rum und haben keine Macken. So mit seinem Roboter Tischtennis spielen oder Kegeln gehen , Super. Und dann
soll sie natürlich Vollbusig und knackig gebaut sein

Na warte mal ab wenn das die erotik Branche aufschnapt.. Dann macht dir eine einen Striptease.

 

[Summa]

wenn die KI für dich spielt, hast du ja wieder mehr Zeit fürs Musikmachen ...

Dann könnte ich mir bei aktuellen Spielen genauso gut 'nen Film anschauen oder ein Lets Play Video, am liebsten wär' mir ein K.I. Mitspieler der mir die NPCs vom Hals hält während ich die offene Welt erkunde.

In RL wär das auch nicht schlecht, so an manchen Tagen, hier auf dem Land. Edit: So in etwa:

 

[goorooj]

Ich weiss noch wie vor 20 Jahren auf dem Handy nix ging ausser telefonieren, SMS und das unbenutzbare WAP und geraten wurde, das Handy auszuschalten und den Akku rauszunehmen bei Nichtbenutzung weil ja sonst der Staat deine Bewegungen nachverfolgen könnte.

Und jetzt schau uns heute an... niemanden interessiert mehr dass alle wissen wo du gerade bist, die letzten Tage überall warst, welche anderen Facebook Nutzer du wann wie lange getroffen hast oder in welchen Einkaufsmärkten du dich rumgetrieben hast.
KI wird auch keiner aufhalten und die potentiellen Gefahren werden von all den Annehmlichkeiten so überdeckt dass da sehr bald keiner mehr drüber nachdenkt. Wir werden uns daran gewöhnen dass Bilder und Videos bald keinen Nachrichten/Beweiswert mehr haben.

 

[GegenKlang]

haben keine Macken

Das glaubst du, bis die "KIra" bei (just my humble assumption) eurem Spaß im Bett zurückliefert: MQTT/3.0 433 Resources too small at client side. Aborting.

 

[Rolo]

Das glaubst du

Mir gings eigentlich besonders darum zu verstehen zu geben daß auch Maschinen sehr Liebenswert sein können. Ganz ohne Spaß ich war jedesmal traurig wenn ich ein Auto aufgeben "musste".
Klar hatte diese Autos auch Macken. Es waren halt auch nur Menschen

 

[goorooj]

Mir gings eigentlich besonders darum zu verstehen zu geben daß auch Maschinen sehr Liebenswert sein können. Ganz ohne Spaß ich war jedesmal traurig wenn ich ein Auto aufgeben "musste".
Klar hatte diese Autos auch Macken. Es waren halt auch nur Menschen

Als ich letztes Jahr meinen neuen Dacia abgeholt habe und dafür meinen alten Jaguar abgegeben, war ich auch sehr sentimental auf dem Weg dahin... Das weiche Leder, das Echtholz....
Bis mir, tatsächlich in der Abbiegespur zur Einfahrt des Autohauses, hinten irgendwas an der Bremse kaputtgegangen ist und ich laut ratternd und schleifend aufs Gelände gefahren bin.
Autos können auch einfach nur A*schlöcher sein.

 

[Rolo]

Autos können auch einfach nur A*schlöcher sein.

sind halt auch nur Menschen Einen alten Jaguar gegen einen Dacia? O.k. da haste aber ganz schön Pech gehabt daß das ausgerechnet noch dir passieren mußte so ganz am Schluß.
Vieleicht wollte dir das Auto noch eine verpassen weil du es abgestoßen hattest Ich würde solche Zufälle nicht unbedingt einem Objekt oder Lebewesen zuschreiben. Die Sterne
stehen halt nicht immer günstig
Was Maschinen betrifft...anfangen so richtig dran zu hängen tut man an Maschinen erst wenn man auch mal was selbst dran gefixt hat. Auch wenns nur ne Kleinigkeit war. Das verbindet ungemein.
Ich rede mit meinem Auto (so mein lieber..dann fahrmermal wieder zurück) und ich bringe es einmal pro Jahr zur Inspektion. Mein neues fährt mich seit 2 Jahren zuverlässig durch die Weltgeschichte. Hab übrigens auch ein altes Mopet mit dem ich schon viel erlebt habe
bzw. an dem ich viel geschraubt und erneuert habe. Es ist jetzt schon seit langem fit und ich pflege es, fahre nicht viel damit und liebe es kann man irgendwie sagen. Also ich könnte es nicht
hergeben auch wenn ich nur wenig damit fahre. Es ist jedesmal ein dolles Erlebniss wenn ich damit meine kleinen Runden drehe. So ne Simson Schwalbe ist halt schon was ganz besonderes

 

[goorooj]

Einen alten Jaguar gegen einen Dacia? O.k.

Das hat tatsächlich entfernt was mit dem Thema zu tun....
Ich hatte drei alte Autos, mit jeweils "Spezialaufgabe" ( sommer, camper, 4x4 ), 20 - 30 Jahre alt, die auch 3x reparaturen verlangt haben.... und das nicht wenig.

Jetzt habe ich einen Neuwagen gesucht das genau diese Aufgaben alle abdecken kann und bin bei einem Dacia Duster 4x4 mit Offroad anhänger hängengeblieben...
eben weil da NICHT so viel Elektronik und sonder-schischi verbaut ist der irgendwann Stress macht. Das Auto NICHT heimtelefoniert.
Und mir NICHT erzählt was ich zu tun habe. Mir NICHT nur das "Nutzungsrecht" an irgendwelchen Features im Auto verkauft und irgendwelche Features remote abschalten kann....

Das ist auch eins der grossen Probleme aber auch eine der grössten Möglichkeiten für KI...
Erst mal wäre es nicht dumm, ein selbstfahrendes Auto zu haben das "lernt" wie ich fahre, oder Strecken, oder Zeiten... zu welcher zeit welche strecken gewöhnlich zu sind und wie es besser fährt, schon bevor der tägliche stau entsteht.
das in der früh vorheizt, mich dann schlafend bis zur tankstelle fährt wenn es sprit braucht ( sonst zur arbeit ) und mich kurz vorher weckt. oder als E-Auto einfach nachts zur Ladestation fährt.
quasi den Knight Rider. Es wärer denkbar dass der durchaus auch selbst aus der Garage vor die Haustür fährt... geht ja schon.
Andererseits bist du aber auch abhängig davon das das funktioniert und das ding nicht auf blöde ideen kommt.
Das rechtssystem ist so, dass es eine "Unschuld" nicht kennt. irgendwer muss immer schuld sein.
Wenn es schneit und jemand um 7 in der Früh auf dem Gehsteig vor deinem Haus ausrutscht ist nicht der Schnee schuld oder der Idiot der bei Glätte nicht laufen kann sondern du, weil du noch schläfst und nicht geräumt hast.

Firmen die KI-automatisierte "Dinge" herstellen werden sich absichern und dich unterschreiben lassen dass die für gar nix irgendwas können, die Lobby wird für entsprechende Gesetze sorgen und wenn dann irgendwas schiefgeht bleibt es an dir hängen.

 

[Rolo]

Firmen die KI-automatisierte "Dinge" herstellen werden sich absichern und dich unterschreiben lassen dass die für gar nix irgendwas können, die Lobby wird für entsprechende Gesetze sorgen und wenn dann irgendwas schiefgeht bleibt es an dir hängen.

Ja, das ist einerseits übel, anderseits nötig. Denn ich kann z.B. verstehen kann daß mein Auto nach dem Einschalten des Display für Navi eine bestätigung von mir will bzw. mich darauf hinweist daß ich Schuld bin wenn was passiert wenn ich während der Fahrt am Display rumfummel. Und klar bin da ich Schuld und nicht die Firma die das Ding gebaut hat.
Was ich cool find...mein Auto motzt wenn ich mich nicht anschnalle. Gibt erst ruhe wenns geklickt hat. Ich finde das o.k. Auch wenn ich die Handbremse vergessen habe zu lösen weist "Hugo" mich darauf hin.

 

[Omega Minus]

(schlimmes Antiposting)

Es gibt Leute, die interessiert das.

Und für die Leute, die das nicht interessiert, habe ich einen ganz heißen Tipp: Mich interessieren z.B. die ganzen 'Celebrities' nicht. Ich lese deswegen die einschlägigen Zeitschriften nicht. Man kann auch Vidoes nicht schauen. Das geht ganz einfach, habe ich in der 'Brigitte' gelesen!

Grüße
Omega Minus

 

[goorooj]

bevor sich das threadferne Einschiessen auf die Lieblingsfeindbilder manifestiert, hier ein interessanter Link zum Thema:

Musikmachen mit KI: 50 weitere Major-Firmen unterschreiben - gearnews.de

Roland und UMG haben ihre Partnerschaft in Sachen Musikmachen mit KI verkündet. Jetzt steigen 50 weitere große Firmen der MI ein.

www.gearnews.de

tldr: Universal wollen ihre Einnahmequellen nicht verlieren und Roland macht gern Eigenwerbung.
Oder:

Diese Partnerschaft unterstreicht die Rolle der KI im kreativen Prozess der Musikproduktion und die Überzeugung, dass menschliche Kreativität unersetzlich ist und die Rechte von Künstlern geschützt werden müssen. Organisationen, die diese Prinzipien unterstützen möchten, können dies über die Website aiformusic.info tun.

 

[DanReed]

Universal wollen ihre Einnahmequellen nicht verlieren und Roland macht gern Eigenwerbung.

Die beiden haben erkannt, was die Stunde geschlagen hat.

Dass 99.9% der Musik, mit der sie bisher richtig gut verdienen, in ganz naher Zukunft komplett von der KI erzeugt werden kann -- und deswegen auch wird. Denn die Musik ist ohnehin nur leichte Variationen und Rekombinationen des bereits Dagewesenen.

Und sie wissen natürlich auch, dass jetzige KI-Lawine unaufhaltsam ist ("Was der Mensch machen kann, das macht er auch"). Also ist die einzige Frage, die sich die beiden stellen, wie sie weiterhin gut verdienen können: Der "kreative Prozess" wird sich verlagern.

Ich denke, bei den Bild-Generatoren kann man es bereits gut ahnen: Der Grafik-Designer wird nicht mehr gebraucht, dem man mühsam erklären muss, was genau man eigentlich will. Statt dessen muss man entsprechend geschickt den Prompt formulieren und anpassen, der zum Bild führt, und natürlich die Auswahl aus den Ergebnissen treffen (denn wer im Schwall von generierten Bildern das eine Goldstück nicht erkennt, hat eben Pech gehabt).

 

[zhe56zrzF]

Dass 99.9% der Musik, mit der sie bisher richtig gut verdienen, in ganz naher Zukunft komplett von der KI erzeugt werden kann -- und deswegen auch wird. Denn die Musik ist ohnehin nur leichte Variationen und Rekombinationen des bereits Dagewesenen.

Genau so ist es. Ich muss immer schmunzel wenn ich Geschichten lese, wie bei Mondschein die Inspiration zu einem einzigartigen Track entstand. Dann hört man sich das an und hört nur absoluten Standard, meist sogar weit darunter. Dieses "Hach, ich mache Musik, ich bin ja sooo kreativ" Ja Pustekuchen, eine KI kann das bald besser als du nachmachen - oh sorry inspirieren lassen klingt ja viel kreativer - Musik machen, in einem Genre, ist doch nix weiter als Nachmachen mit leichten Variationen. Das ist doch wie gemacht für eine KI. Wenn man sich die Musik hier im Forum anhört oder da draußen, dann ist doch kaum irgendwas wirklich Neues dabei, alles irgendwo derselbe Brei.

Ich bin auch der Meinung, dass man nur für die wenigste kommerzielle Musik bald noch einen Menschen braucht. Nur in der absoluten Top-Liga von Produzenten, Mastering-Engineers usw. wird es sich noch lohnen was per Hand zu machen. Der Rest wird lernen wie man die KI bedient und in 2 Tagen sein Album komplett fertig hat, so dass man es von den Radio Sachen nicht mehr unterscheiden kann. Eine Sache sie wohl die meisten hier per Hand nie hinbekommen werden.

Aber hey, es bleibt das Hobby und der Spaß irgendwas selbst gemacht zu haben, ob das noch einer glaubt ist eine andere Sache. Es wird so sein wie bei den Bildern, keiner traut mehr einem hochgeladenen Stück Musik und man weiß nie wie viel Anteil KI da mit bei ist.

 

[DanReed]

es bleibt das Hobby und der Spaß irgendwas selbst gemacht zu haben

Das wird mit Sicherheit bleiben, keine Frage.

Und es bleibt natürlich auch echte Kreativität: Eben nicht der Einheitsbrei, sondern das eine Ding, das alles ändert, der Meilenstein, den dann wieder alle jahrelang imitieren und in Minischritten verändern, im Prinzip genauso wie es schon immer war

 

[GegenKlang]

aber wohl meißtens in Ländern angesiedelt in denen Arbeitskräfte günstig sind

Also im Europa der Zukunft, inoffizielle Kolonie von China &Co.

Der Rest wird lernen wie man die KI bedient und in 2 Tagen sein Album komplett fertig hat, so dass man es von den Radio Sachen nicht mehr unterscheiden kann. Eine Sache sie wohl die meisten hier per Hand nie hinbekommen werden.

Toll, mehr vom selben Brei? Wozu? Als Ohrenstopfe?
Meine Hoffnung ist, dass es bald uncool ist, irgendwas fertig von irgendeinem Service zu bestellen. Unsere Kinder oder Enkel werden das subversive, quasi verbotene Selbermachen neu entdecken. Ihnen bleibt vielleicht auch nichts anderes übrig, so oft wie der grüne Strom ausfällt.