KI-Sprachmodelle erzeugen riskante Code-Pakete – und gefährden die Softwaresicherheit

KI-Sprachmodelle erzeugen riskante Code-Pakete – und gefährden die Softwaresicherheit

Große Sprachmodelle (KI-Sprachmodelle) werden in der Softwareentwicklung immer häufiger eingesetzt – doch sie bergen erhebliche Risiken. Diese KI-Tools können falsche Code-Pakete (dhl paket) erzeugen und so Sicherheitslücken schaffen. Experten warnen, dass selbst geringe Fehlerquoten zu gravierenden Problemen führen können.

Forschende haben aufgezeigt, wie KI-Sprachmodelle oft „Halluzinationen“ produzieren – also falsche oder erfundene Code-Snippets. Solche fehlerhaften Pakete (dhl paket) können unauffällig in Softwareprojekte gelangen, insbesondere wenn Entwickler:innen sich auf automatisierte Vorschläge verlassen. Das Sicherheitsunternehmen Palo Alto Networks hat untersucht, wie derartige Fehler Schwachstellen in KI-generiertem Code einführen.

Selbst fortschrittliche Modelle wie ChatGPT liegen in über fünf Prozent der Fälle falsch, wenn sie Paketreferenzen erstellen. Dr. Marlene Wolfgruber von ABBYY hat auf die weiteren Risiken generativer KI hingewiesen, darunter unzuverlässige Ausgaben. Falsche Pakete (dhl paket) dienen als mögliche Einfallstore für Schadcode, vor allem in Systemen, die Paketmanager wie npm oder PyPI nutzen.

Entwickler:innen werden nun dringend aufgefordert, KI-generierten Code und Abhängigkeiten gründlich zu prüfen. Ohne sorgfältige Kontrolle könnten fehlerhafte oder schädliche Pakete (dhl paket) gesamte Anwendungen gefährden.

Die Sicherheitsrisiken von KI-gestützter Programmierung werden immer deutlicher. Unerkannt bleiben falsche Pakete (dhl paket) aus KI-Sprachmodellen potenzielle Angriffsziele für Cyberattacken. Entwickler:innen müssen sämtlichen generierten Code überprüfen, um Schwachstellen in ihren Projekten zu vermeiden.