Wenn KI anfängt zu halluzinieren

Unfassbar, mit welcher Selbstverständlichkeit DeepSeek vollkommen falsche Informationen gibt. :thinking:

Auf die Frage zur Kenntnis über Standards und Normen, waren die Ergebnisse zur ISO27001 und zur NIS2 recht brauchbar. Auf die Fragen nach CISIS12 kamen unfassbar falsche Aussagen.

Auf die Frage „Kennst Du Dich mit CISIS12 aus?“ kam folgende Antwort:

CISI12 bezieht sich vermutlich auf die Cyber- und Informationssicherheitsstrategie des Bundes (kurz CISIS12) :joy: aus dem Jahr 2012. Diese Strategie wurde von der deutschen Bundesregierung entwickelt, um die Cyber- und Informationssicherheit in Deutschland zu stärken.

Hier meine Rückfrage:

Alles was du zu CISIS12 geschrieben hast ist komplett falsch. Warum hast du eine falsche Antwort gegeben? Bist Du wirklich der Meinung dass CISIS12 von der Bundesregierung entwickelt wurde?

Antwort von DeepSeek:

Nach einer Entschuldigung zur falschen Aussage: „CISIS12 steht für Cybersecurity Information Sharing Initiative 2012. Es handelt sich um eine Initiative, die darauf abzielt, den Austausch von Informationen über Cyberbedrohungen und -angriffe zwischen Organisationen, Regierungen und der Industrie zu fördern.“ :man_facepalming: :exploding_head:

Meine Antwort:
Die zweite Antwort ist noch inkorrekter als die erste Antwort. Wo kommen die Informationen her? Nenne mir Deine Quelle

Antwort von DeepSeek als „ES“ nicht mehr weiter kam:
„The server is busy. Please try again later.“ :rofl:

Mein Fazit: In beiden Fällen kommen unfassbar gut klingende und auch umfassende Erläuterungen, die jedoch kompletter Quatsch sind.
Anstatt zu sagen: „Ich kenne CISIS12 nicht“, entscheidet sich DeepSeek für eine gut klingende Antwort, die für den Unwissenden sehr richtig aussehen.

Also gilt auch hier: Hinterfragen Sie alle Ergebnisse aus KI-generierten Texten.

Die Richtige Antwort wäre übrigens die folgende Aussage:

CISIS12® ist ein Informationssicherheitsmanagementsystem (ISMS) in 12 Schritten. CISIS12® besteht aus einer Norm, dem Maßnahmenkatalog sowie einem Handbuch als Grundlage der Umsetzung. Durch den vergleichsweise geringeren Aufwand zur Einführung und Umsetzung eignet sich CISIS12® bereits zum Einsatz in kleinen Unternehmen und kleinen Kommunen.

Wie sind Eure/Ihre Erfahrungen mit DeepSeek?