Anthropic schränkt den Zugriff auf Claude Mythos ein, und KI entdeckt wichtige Schwachstellen wie OpenBSD

Gate News Meldung: Das KI-Unternehmen Anthropic hat angekündigt, den Zugriff auf sein neues KI-System Claude Mythos Preview einzuschränken. Grund dafür ist, dass das System in frühen Tests mehrere tausend kritische Software-Schwachstellen entdeckt hat. Mythos Preview kann Sicherheitsmängel in gängigen Betriebssystemen, Webbrowsern und Verschlüsselungsstandards erkennen und hat in der Branche Bedenken hinsichtlich der potenziellen Risiken und der Skalierbarkeit von KI-Technologie ausgelöst.

Laut Anthropic befanden sich darunter viele Schwachstellen, die lange Zeit unentdeckt geblieben waren, darunter ein 27 Jahre altes Problem in OpenBSD, ein 16 Jahre altes Defizit in FFmpeg, eine 17 Jahre alte Remote-Code-Execution-Schwachstelle in FreeBSD sowie mehrere Sicherheitsprobleme im Linux-Kernel. Darüber hinaus gibt es Schwächen in Verschlüsselungsprotokollen wie TLS, AES GCM und SSH; auch in Webanwendungen treten häufige Schwachstellen wie XSS, SQL-Injection und CSRF auf. Das Unternehmen betont, dass 99% der gefundenen Schwachstellen noch nicht behoben sind, und dass eine zu frühe Offenlegung der Details erhebliche Risiken mit sich bringen könnte.

Branchenangaben zufolge wird die durch KI gesteuerte Netzwerkangriffstätigkeit im Jahresvergleich um 72% zunehmen, und bis 2025 könnten 87% der Organisationen weltweit mit Bedrohungen durch KI-Angriffe konfrontiert sein. Anthropic weist darauf hin, dass die Fähigkeit, Zero-Day-Schwachstellen zu erkennen, einerseits die Software-Sicherheitsabwehr beschleunigen kann, andererseits aber bei Missbrauch durch Dritte weiterhin ein Risiko besteht. Damit wird die Frage, wie solche Technologien sicher eingesetzt und kontrolliert werden können, zu einem dringenden Thema.

Anthropic plant, gemeinsam mit Partnern die bestehenden Schwachstellen zu beheben und zugleich die potenziellen Risiken einer breiteren Ausrollung zu verringern. Das Unternehmen ist der Ansicht, dass KI langfristig die Sicherheit der weltweiten Netzwerkinfrastruktur verbessern wird und Software robuster macht, dass die Übergangsphase jedoch weiterhin voller Herausforderungen steckt. Die Strategie mit begrenztem Zugang zu Mythos Preview zeigt, dass Unternehmen derzeit sorgfältig das Gleichgewicht zwischen technischer Innovation und Sicherheitsvorkehrungen abwägen, um potenziellen Missbrauch zu verhindern.

Experten zufolge könnten die Entdeckungen von Claude Mythos die künftige Praxis der Software-Sicherheit grundlegend verändern und sowohl die Effizienz bei der Erkennung als auch bei der Behebung von Schwachstellen beschleunigen. Gleichzeitig betonen sie, dass die globale Abwehrinfrastruktur weiter gestärkt werden muss, um den neuen Bedrohungen zu begegnen, die durch KI-Technologien entstehen.