KI erstellt Phishing-E-Mails besser als Menschen

Neuronale Netze zeigen weiterhin erstaunliche Ergebnisse bei einer Vielzahl von Aufgaben. Zugegeben, ihre Arbeit war diesmal alles andere als edel: Mit Hilfe von KI erstellten Forscher aus Singapur Phishing-E-Mails, die sich als überzeugender erwiesen als die von echten Menschen geschriebenen.

Insbesondere auf den Cybersicherheitskonferenzen Black Hat und Defcon, die letzte Woche in Las Vegas stattfanden, haben Experten der Government Technology Agency (Singapur) sagte über die Ergebnisse eines ungewöhnlichen Experiments.

Sie schrieben selbst Hunderte von Phishing-E-Mails und erstellten dann noch viele weitere mit dem natürlichen Sprachverarbeitungsalgorithmus GPT-3 und anderen Technologien der künstlichen Intelligenz. Dann verschickten sie diese Briefe an 200 Kollegen, um zu testen, welche ihrer Meinung nach überzeugender waren.

In beiden Fällen enthielten die E-Mails Tracker-Links – sie luden den Virus nicht auf das Gerät herunter, sondern schickten lediglich einen Klickbericht an die Forscher. Das Ergebnis war überraschend: Menschen klickten "deutlich häufiger" auf die Links von Briefen, die von Künstlicher Intelligenz verfasst wurden, als von anderen geschriebenen. Leider liegen keine genauen Statistiken vor.

Die Autoren stellen fest, dass die von der KI geschriebenen Briefe "überraschend menschlich" klangen und die Plattform automatisch unerwartete Elemente hinzufügte. um den Text überzeugender zu machen - zum Beispiel zitierte sie die Gesetze von Singapur, da die Eingabe darauf hinweist, dass die Empfänger aus Singapur.

Experten diskutieren seit langem, ob es für Betrüger sinnvoll ist, neuronale Netze für das Erstellen von Phishing-E-Mails zu trainieren – schließlich bleiben Massenmailings äußerst effektiv und kostengünstig. Benötigen Sie jedoch gezielte E-Mails, deren Zusammenstellung mit zusätzlichem Aufwand verbunden ist, können neuronale Netze wirklich nützlich sein.

Auch wenn es entmutigend klingen mag, die gute Nachricht ist, dass hochwertiges KI-Training Millionen von Dollar kostet – wahrscheinlich nicht. Erwarten Sie, dass Betrüger in naher Zukunft beschließen werden, massenhaft zu gehen, um das System zu verbessern, das bereits ausgezeichnet ist Arbeiten.