Gefährliche Malware tarnt sich als OpenAI auf Hugging Face

Hässliches Spiel: Malicious Repo tarnt sich als OpenAI

Ein dreistes Fake-Repo auf Hugging Face gab sich als OpenAI-Projekt "Privacy Filter" aus, um Malware zu verbreiten. Es schaffte es auf die Trending-Liste der Plattform mit 244,000 Downloads, bevor es entfernt wurde.

Das Repo namens Open-OSS/privacy-filter wurde von HiddenLayer-Forschern, Experten für KI- und ML-Sicherheit, entdeckt. Es kopierte OpenAIs legitimes Release und versteckte dabei ein schädliches Skript.

Das gefährliche Skript

Im Zentrum stand ein Python-Skript, loader.py. Es wirkte harmlos, deaktivierte aber die SSL-Verifizierung und rief eine base64-kodierte URL ab. Diese führte zu einem JSON-Payload, das einen PowerShell-Befehl ausführte, um schädliche Software auf Windows herunterzuladen und zu starten.

Der Payload war ein Infostealer auf Rust-Basis, der folgende Daten ins Visier nahm:

• Browser-Daten (Cookies, Passwörter, Session-Tokens)
• Discord-Tokens und -Datenbanken
• Kryptowährungs-Wallets
• SSH-, FTP- und VPN-Zugangsdaten
• Screenshots von Multi-Monitor-Setups

Der Datendiebstahl war enorm, und die Infos wurden an einen Command-and-Control-Server gesendet, was eine gravierende Sicherheitslücke markiert.

Hintergrund zu Hugging Face

Hugging Face ist die Plattform schlechthin für KI-Modelle, Datensätze und Tools – weltweit genutzt. Trotz starker Sicherheitsmaßnahmen wurde die Plattform schon früher von Bedrohungen ausgenutzt, die bösartige Modelle hosten.

Typosquatting: Der alte Trick

Typosquatting—also das Verwenden von Namen, die echten ähnlich sind—ist keine neue Masche. Es passierte schon auf Plattformen wie npm, wo Malware beliebte Bibliotheken imitiert. Dieser Vorfall auf Hugging Face zeigt die anhaltende Herausforderung, Open-Source-Repos abzusichern.

Offene Fragen

• Wie viele Menschen sind betroffen? Das ist noch unklar.
• Wie viele der Accounts, die das Repo mochten, waren echte Nutzer?
• Gibt es noch mehr gefälschte Repos?

Warum es wichtig ist

Dieser Vorfall unterstreicht die Schwachstellen in Open-Source- und KI-Plattformen. Da KI in immer mehr Sektoren integriert wird, ist die Absicherung dieser Plattformen entscheidend. Nutzer müssen wachsam sein, und Plattformen müssen die Sicherheit verstärken, um solche Bedrohungen zu stoppen.