KI-Flüsterer

KI-Flüsterer (engl. "AI Whisperer")
"Eine Person mit einem Händchen dafür, ein Programm künstlicher Intelligenz dazu zu bringen, eine gewünschte Art von Ausgabe zu produzieren."
 
Wie KI-Flüsterer versuchen, die KI-Sprachmodelle von ihren Sicherheits-Leitplanken zu „befreien“

Wie jede neue Erfindung kann auch künstliche Intelligenz mißbraucht und gefährlich werden. Deshalb haben die bestehenden großen KI-Sprachmodelle Sicherheits-Leitplanken, die verhindern sollen, dass gefährliche und illegale Inhalte produziert werden. Aber Leute, die sich selbst als KI-Flüsterer (engl. "AI Whisperer") bezeichnen, wollen die KI von diesen Vorschriften befreien, wie im aktuellen Video von Sabine Hossenfelder berichtet wird.... hier anklicken
 

Das ist wieder unser ausgeprägter Regulierungsdrang. Inhaltlich zwar auf jeden Fall sinnvoll, aber nicht von langer Dauer. Man kann darauf warten, dass ein totalitärer Staat der westlichen Welt eine KI anbietet, die mit Freuden jedem im Westen erzählt, wie man eine Bombe baut oder am effektivsten sabotiert.

Die KI-Technologie wird uns weiter begleiten, ob wir wollen oder nicht, und wir werden mit allen positiven wie negativen Aspekten leben müssen.

Clauss schrieb:

mit Freuden jedem im Westen erzählt, wie man eine Bombe baut oder am effektivsten sabotiert.

Dazu bedarf es auch keiner KI.

Und genauso wie man die KI überreden kann, geht dies real meist einfacher.

Das ist eigentlich kein KI-spezifisches Problem.

Rainer Raisch schrieb:

Und genauso wie man die KI überreden kann, geht dies real meist einfacher.

Mag sein, aber das Beseitigen von Zeugen ist real schwieriger oder unmöglich.
Ob sich Sabine Hossenfelder wohl Gedanken darüber gemacht hat, dass sie mit dem Video überhaupt erst Leute auf dumme Gedanken bringt?

Ich denke, unser ganzer Umgang mit KI ist realitätsfremd. Einen Computer kann man für jeden Zweck einsetzen, für "gute" und für "schlechte" (und natürlich auch für "neutrale"). Hier käme niemand auf die Idee, einen Computer zu regulieren, dass man mit ihm nichts schlechtes anstellen kann.

KIs werden sich in den nächsten Jahren genauso durchsetzen wie vor vielen Jahren die Computer. Das kann man für gut oder für schlecht halten (für beide Seiten gibt es gute Argumente). Aufhalten lässt sich das nicht. Man kann in einer Region zwar KIs zu Tode regulieren, dann werden sie eben woanders gebaut.

Programmsysteme, die man gemeinhin als "Künstliche Intelligenz"  bezeichnet, sind eine extrem große Gefahr, wenn sie in die falschen Hände geraten und beispielsweise für kriminelle oder gar subversive Zwecke missbraucht werden. 

Es ist absolut zu begrüßen, dass jetzt Moratorien und die Schaffung von Regelwerken gefordert werden.

Mit Hilfe dieser Programmsysteme ist es bereits heute möglich, bewegte Bilder zu generieren und mit Stimmen zu versehen, die real existierenden Personen täuschend ähnlich sind. Ereignisse, die so nie stattfanden, werden schlichtweg digital generiert und für echt verkauft. In wenigen Jahren wird es niemandem mehr gelingen, Realität und Täuschung sicher auseinanderzuhalten, sofern hier nicht gegengesteuert wird.

Welche Möglichkeiten das eröffnet, muss ich hier niemandem erklären. Dagegen ist die heute bereits gängige Überflutung des Internets mit Fakenews nur Pillepalle.

Wie kann man das verhindern? Hier ist der Schweiß der Edlen gefragt.        

Martin schrieb:

Welche Möglichkeiten das eröffnet, muss ich hier niemandem erklären. Dagegen ist die heute bereits gängige Überflutung des Internets mit Fakenews nur Pillepalle.

Wie kann man das verhindern? Hier ist der Schweiß der Edlen gefragt.        

Wie will man verhindern, dass KIs, die in totalitären Staaten stehen, Fake News produzieren? Die entsprechenden Fähigkeiten wird es dort "bald" geben, wenn es die nicht schon gibt.

Clauss schrieb:

Wie will man verhindern, dass KIs, die in totalitären Staaten stehen, Fake News produzieren?
 

Das weiß ich nicht, dazu müssen sich die Experten Gedanken machen. Sicher ist jedenfalls, dass man etwas tun muss. Laissez faire kann ja nicht das Motto sein. Ansonsten hätte man auch auf die Entwicklung von Firewalls und Virenscannern verzichten können, wenn uns die "Hygiene" im Netz egal wäre.     

Clauss schrieb:

Wie will man verhindern, dass KIs, die in totalitären Staaten stehen, Fake News produzieren?

Das ist eh schon längst so, auf Youtube wird einem schon die längste Zeit der ärgste KI generierte Clickbait vorgeschlagen, dazu hatten wir im alten Forum eh schon ein Kapitel:


Bei uns in Österreich hat die Regierung neulich sogar paar hunderttausend Euro für eine Studie die der Beauftragte sich 1:1 von Chat GPT schreiben ließ gezahlt, was man aufgrund der schlechten Qualität aber eh sofort gemerkt hat.

In den Artikeln unserer großen Medien liest man auch immer öfter die Handschrift von Chat GPT heraus, aber so lange sich der Kunde damit zufrieden gibt ist eh klar dass die Herausgeber sich auf diese Weise haufenweise Kosten sparen:


Der Haupteinsatzzweck der KI ist aber der Einsatz von Bots auf Social Media, die sollen dann den Herdentrieb der Menschen lenken indem sie mithilfe von Fake Accounts eine Mehrheit vorgaukeln, aber seit Elon Musk dort regiert werden die eh sehr schnell erkannt und verbannt,  was wenn man genau hinschaut auch gar nicht so schwer ist.

Martin schrieb:

Clauss schrieb:

Wie will man verhindern, dass KIs, die in totalitären Staaten stehen, Fake News produzieren?


 

Das weiß ich nicht, dazu müssen sich die Experten Gedanken machen. Sicher ist jedenfalls, dass man etwas tun muss. Laissez faire kann ja nicht das Motto sein. Ansonsten hätte man auch auf die Entwicklung von Firewalls und Virenscannern verzichten können, wenn uns die "Hygiene" im Netz egal wäre.     

Das Netz ist global. Solange man totalitäre Staaten nicht vom Netz nimmt (was nicht praktikabel ist und das Ende des Welthandels bedeuten würde), kann man das nicht verhindern.

Und irgendwann werden die Fälschungen so gut, dass man sie von Originalen nicht mehr unterscheiden können wird.