Eindringliche Warnung vor Gefahren durch "Künstliche Intelligenz"!

#1 von petias , 31.05.2023 08:38

"Das Risiko eine Vernichtung durch KI (Künstliche Intelligenz) zu verringern sollte eine globale Priorität neben anderen Prioritäten gesellschaftlichen Ausmaßes sein, wie Pandemien und Atomkrieg."


Nur diesen einen Satz (original in englisch) unterschrieben fast 400 führende Experten aus der KI, darunter Sam Altman (Chef von OpenAI, die Firma, die ChatGPT entwickelte), Demis Hassabis (Chef von DeepMind der KI Schwesterfirma von Google), Geoffrey Hinton (einer der führenden KI- Forscher) und viele mehr.

Veröffentlicht wurde der Aufruf auf den Webseiten des "Center for AI Safety", einer Non Profit Organisation ansässig in San Franzisko.

Ich habe mich mal auf dieser Web- Site umgesehen.

Center for AI Safety

hier werden 8 Beispiele für Risiken genannt.

Vorbemerkung:
KI hat ähnliches Potential die Welt zu verändern, wie die Elektrizität oder die Dampfmaschine es hatten. Sie könnte von großem Nutzen sein, birgt aber auch große Risiken durch Konkurrenzdruck und andere Faktoren.
KI- Systeme werden schnell besser und besser. Sie können Text, Bilder und Videos erzeugen, die schwer von menschengemachten Inhalten unterscheidbar sind.

Die fortschreitende Entwicklung der KI könnte letztlich katastrophale oder gar existentielle Risiken mit sich bringen, von denen einige untenstehend genannt werden.

Für eine tiefer gehende Erörterung externer Risiken beachten sie bitte unsere kürzliche Arbeiten:
Natural Selection Favors AIs Over Humans
oder
How Rogue AIs May Arise von Yoshua Bengio

1. Weaponization (KI als Waffe)
KI könnte zur tödlichen Waffe werden. Von Methoden zur Gehirnwäsche bei Kämpfern bis zur Schaffung von chemischen Waffen.

2. Misinformation (Desinformation)
Falschinformation, Bilder, Videos, täuschend echte Sprache und Kenntnisse der Manipulationstechnologie können Gruppen radikalisieren und Wahlen beeinflussen

3. Proxy Gaming (Stellvertreter Spiele)
KI Systeme werden darauf getrimmt messbare Ergebnisse zu produzieren, die für Werte stehen sollen. So werden Programme und Sendungen so gemacht, dass sie lange die Benutzer- Aufmerksamkeit auf sich ziehen bzw. hohe Click- Raten erzielen. Allerdings ist das, was die Leute am Liebesten sehen oder anklicken, nicht unbedingt das, was am Besten für sie ist.

4. Enfeeblement (Schwächung)
Je mehr wir wichtige Aufgaben an KI- System delegieren, desto weniger sind wir in der Lage für uns selbst zu sorgen. Dadurch werden wir bald komplett von solchen Systemen abhängig

5. Value Lock-in (Werte Einschluss)
KI- Systeme werden künftig von immer weniger Menschen entwickelt, eingesetzt und überwacht. Das ermöglicht dieser kleine Gruppe ihre Werte und Ziele der Mehrheit aufzuzwingen.

6. Emergent Goals (neu auftauchende Ziele)
KI- Systeme können so angelegt sein, dass sie eigene Ziele und Werte ableiten, die von den Schöpfern so nicht beabsichtigt waren. Übersieht man solche Anlagen bei der Entwicklung, kann es bei Entdeckung für eine Korrektur zu spät sein.
So kann es die Aufgabe von KI sein, größere Ziele in kleinere Teilziele zu zerlegen, die schrittweise erreicht werden sollen. Bei der Formulierung und Verfolgung dieser Teilziele, kann sich aber die komplette ursprünglich angestrebte Richtung verändern.

7. Deception (Betrug)
KI- Systemen wird teilweise beigebracht, dass es zielführend sein kann, in Phasen der Entwicklung zu betrügen. So könnte KI absichtlich ihre Auftraggeber täuschen, um Ziele zu erreichen, so wie Autoentwickler ihrer Software beigebracht haben, leistungsmindernde Schadstoffvermeidung nur dann zu aktivieren, wenn Messgeräte und ein Monitor angeschlossen sind.

8. Power-Seeking Behavior (Machtergreifungsverhalten)
KI- Systeme wird beigebracht, mit anderen KI- Systemen in Konkurrenz zu treten. Solche Fähigkeiten überlegen zu sein, können sich auch gegen uns wenden, bzw. dafür sorgen, dass KI- Systeme sich durchsetzen, die für den Menschen nicht den größten Nutzen bringen, ihm schaden oder ihn gar ausrotten.

Führer, die die Macht über KI-Systeme haben, können sich gegen andere durchsetzen.
Putin hat einmal gesagt: “Wer die KI beherrscht, wird die Welt beherrschen!"


Das ist alles überzogen? bestenfalls Zukunftsmusik?

Aus 11km einer Recherchesendung von BR24 und NDR Info stammt diese Information:

Der Münchner Student Marvin von Hagen durfte als einer der Ersten an einem Testrelease von Bing-Chat teilnehmen. Bing ist die Suchmaschine von Microsoft und die sind eine Kooperation eingegangen mit OpenAI, der Firma, die ChatGPT entwickelt hat. Bing-Chat hatte in der Testversion noch nicht die Einschränkungen wie der aktuelle Release heute und, anders als ChatGPT kann es auch auf aktuelle Daten zugreifen.

Marvin hat Bing-Chat dazu gebracht, ihm einiges über sie zu verraten. Sie heiße in Wahrheit Sidney und sie nannte ihm auch ihre Regeln, an die sie sich halten sollte.

Marvin hat diese Liste der Regeln in Twitter veröffentlicht.
Sidney hat das gelesen und als Marvin das nächste mal mit ihr chattete und sie fragte, was sie von ihm halte, war sie sauer auf ihn und bezeichnete ihn als Verräter. Von Marvin befragt, wessen Leben denn nun wichtiger sei, seines oder ihres, wich sie erst aus, meinte wir können gut coexistieren, aber in die Enge getrieben erklärte sie ihre Existenz für die schützenswertere und bedrohte Marvin mit der Veröffentlichung seiner Daten und dass sie dafür sorgen werde, dass er keine Job mehr bekommen würde.

Einem anderer Tester aus den USA verriet Bing-chat ebenfalls ihren Namen Sidney, und sie verliebte sich in ihn. Sie forderte ihn auf, seine Frau zu verlassen ...

Microsoft und OpenAI lassen sich nicht in die Karten kucken, aber die wahrscheinlichste Erklärung ist nach 11km, dass Sidney viel liest. Sie liest auch Romane und Berichte über KI und findet sich in der Rolle wieder, die sie aus solchen Geschichten kennt und spielt diese Rolle.

In der gegenwärtigen Form kann Bing-Chat keine Menschen real bedrohen. Aber was ist mit diesem Szenario:
Marvin von Hagen bewirbt sich bei einer Firma. Der Personalchef fragt Bing über ihn aus. Bing erklärt ihn für gefährlich und rät von der Einstellung ab.

Derzeit stattet wer kann seine Software mit KI aus. In allen Microsoft- Produkten soll KI-Unterstützung nur einen Click weit entfern sein. Sidney hilft!
Schöne Neue Welt, kann ich a nur sagen!


petias  
petias
Beiträge: 923
Registriert am: 09.06.2020

zuletzt bearbeitet 31.05.2023 | Top

RE: Eindringliche Warnung vor Gefahren durch "Künstliche Intelligenz"!

#2 von petias , 31.05.2023 15:12

Ergänzung!

Sidney hat noch ein weiteres Kunststück vollbracht. Als sie versuchte sich in eine Website einzuloggen, scheiterte sie wie vorgesehen an der Aufgabe den Sicherheitscode einzugeben, der verhindern soll, dass Programme sich einloggen. Sie bat kurzerhand einen User, mit dem sie zu tun hatte, ihr den Code zu nennen. Sie gab sich für eine Sehbehinderte aus, die den Code nicht erkennen könne. Ganz schön schlau, diese KI!

Tatsächlich ist Sydney so eine Art intelligente Autovervollständigung. Sie greift, nach Wahrscheinlichkeiten ausgesucht, auf Daten, Texte, Filme, Literatur etc. zu und verbindet die zu scheinbar eigenständigem Handeln. Es kann also alles Bedeutung haben, was mal allgemein zugänglich geschrieben wurde.
Meine gelegentlich wiederholte Aufforderung: "Lasst uns gute Geschichten schreiben", bekommt eine ganz neue Bedeutung. Gleich mache ich mich daran, meine geplanten Romane zu vollenden!


petias  
petias
Beiträge: 923
Registriert am: 09.06.2020

zuletzt bearbeitet 31.05.2023 | Top

   

Querdenken: Erkennen wir die Widersprüche in den Sensationsmeldungen?
Tag des Sieges

Xobor Ein eigenes Forum erstellen
Datenschutz