KI

Clauss schrieb:

Eclipse4 schrieb:

Clauss schrieb:

Anthropic musste jetzt auf Geheiß der Regierung Mythos und Fable vom Markt nehmen.  Auf US-Anweisung: Anthropic sperrt neue KI-Modelle

Hilft das dauerhaft? Ganz sicher nicht. Wenn eine Firma zeigt, dass eine herausragende Hacker-KI möglich ist, werden andere es nachbauen. Es ist also nur eine Frage der Zeit bis China oder Russland etwas vergleichbares haben werden. Und die werden das dann nicht aus ethischen Gründen beiseite legen.

Die Zeit ist hier ein wichtiger Faktor. Bald wird es wohl keine Software mit Sicherheitslücken mehr geben, weil sie von genau solcher KI erstellt wird, die Sicherheitslücken findet. Derzeit noch bestehende Sicherheitslücken sind wohl den menschlichen Entwicklern durch die Lappen gegangen. KI sollte es dann besser machen können, zum Leidwesen der menschlichen Entwickler, die dann vielleicht eine Kakerlaken-Bewegung starten müssen wie derzeit in Indien. 

So einfach ist das nicht. Es gibt extrem viele Programme, die auch ohne KI technisch bereits veraltet sind. Diese haben aber teilweise so komplexe Fachlichkeit, dass die aktuelle KI sie nicht ohne Funktionsverlust ersetzen kann.

Die aktuelle KI vielleicht nicht, aber da kommt eben der Zeitfaktor ins Spiel. Wie du ja richtig sagst, sind die jetzigen Marktführer wohl nicht auf Dauer die einzigen, die solche KI auf die Beine stellen können. Überall wird an KI gearbeitet und es geht gefühlt rasend schnell, seit diese Büchse der Pandora geöffnet wurde. Außer böswilligen Hackern sind v.a. die Software-Hersteller an der Sicherheit ihrer Produkte interessiert.

Ich habe früher in einer Firma gearbeitet, die u.a. auch komplexe Software für ihr Produkte entwickelt hat. Es gab extra eine Testabteilung, wo nichts anderes gemacht wurde als permanent den täglich neuen Entwicklungsstand auf Herz und Nieren mit allen möglichen Szenarien zu prüfen, welche die Entwickler vielleicht gar nicht auf dem Schirm hatten. So wurden ständig Fehler gefunden und behoben. Ausgeliefert wurde erst, wenn die Tester zufrieden waren. Trotzdem könnte dabei etwas "durch die Lappen" gehen. Allerdings wurde mir nichts Gravierendes bekannt. Es funktionierte recht gut auf diese Weise.

Clauss schrieb:

Was passieren könnte, dass jede Firma mit Prio 0 so eine KI über ihre Systeme laufen lassen würde, um die von der KI gefundenen Lücken zu schließen. Das können sie aber nicht, da sie diese KIs nicht einsetzen können.

Je nach Sicherheitsrelevanz nicht zwingend mit Prio 0. Eine Testabteilung ist nicht gerade gratis. Wenn man schon im Vorfeld die Funktionalität einzelner Module von einer KI fehlerfrei entwickeln lassen kann, würde man den Leuten mindestens die Arbeit erleichtern und die Produkte eben sicherer machen. Warum nicht auch bestehende Software entsprechend überarbeiten? Ein Grund mehr, wenn sie veraltet ist. Dafür sollten auch die Anwender Verständnis haben, wenn man ihnen sagt, dass ein Update aus Sicherheitsgründen einfach notwendig ist.

Eclipse4 schrieb:

Je nach Sicherheitsrelevanz nicht zwingend mit Prio 0. Eine Testabteilung ist nicht gerade gratis. Wenn man schon im Vorfeld die Funktionalität einzelner Module von einer KI fehlerfrei entwickeln lassen kann, würde man den Leuten mindestens die Arbeit erleichtern und die Produkte eben sicherer machen. Warum nicht auch bestehende Software entsprechend überarbeiten? Ein Grund mehr, wenn sie veraltet ist. Dafür sollten auch die Anwender Verständnis haben, wenn man ihnen sagt, dass ein Update aus Sicherheitsgründen einfach notwendig ist.

Die Testabteilung wäre in dem Fall Mythos. Die scheint deutlich besser im Erkennen von Sicherheitsschwachstellen als Menschen zu sein. 

Prio 0 weil die Firmen davon ausgehen müssen, dass auch die Angreifer Mythos nutzen und sie deshalb keinen zeitlichen Vorsprung haben. 

Das wäre das Szenario wenn Mythos freigegeben würde. Jetzt mit dem Verbot können Firmen Mythos auch nicht zu Abwehr nutzen.