Erklärung
Ein LLM berechnet, welche Wortfolge zu einer Eingabe am besten passt. Dadurch kann es Texte formulieren, übersetzen, zusammenfassen oder Code schreiben. Es hat kein Verständnis im menschlichen Sinn und kann überzeugend klingende, aber falsche Aussagen erzeugen („Halluzinationen“). Eine Ausgabe sollte deshalb immer geprüft werden, besonders bei Fakten, Zitaten oder rechtlichen Aussagen.
Für Täter senken LLMs die Hürde für sprachlich saubere, individuell angepasste Nachrichten in beliebiger Sprache. Das betrifft Phishing und Spear-Phishing ebenso wie vorbereitende Recherche. Gleichzeitig werden LLMs in der legitimen Arbeit eingesetzt, auch in der Forensik, etwa zur Strukturierung großer Mengen von Kommunikation oder Dokumenten. Auch dort gilt: Das Modell unterstützt die Analyse, die fachliche Prüfung ersetzt es nicht.
Typisches Beispiel (schematisch)
Ein Mitarbeiter fasst mit einem Sprachmodell einen langen E-Mail-Verlauf zusammen. Die Zusammenfassung ist hilfreich, enthält aber eine Zahl, die im Original anders lautet. Ohne Gegenprüfung entsteht ein Fehler im Bericht.
Bedeutung für Forensik und Ermittlungen
Bei der Auswertung großer Datenmengen können LLM-gestützte Werkzeuge Vorsortierung und Strukturierung leisten. Belegt werden Aussagen jedoch ausschließlich durch die Originaldaten. Datenschutz und Vertraulichkeit sind zu beachten, wenn Daten an externe Dienste übermittelt würden.
Erkennung und Prävention
Für Unternehmen sind klare Regeln zum Umgang mit KI-Diensten sinnvoll: welche Daten eingegeben werden dürfen, wie Ergebnisse geprüft werden und welche Werkzeuge zugelassen sind.
Auch gesucht als LLM, Großes Sprachmodell, Sprachmodell, KI-Sprachmodell, Large Language Models, Chatbot