Robert

Ich lese vermehrt Berichte, dass „uns“ KI gefährlich werden könnte. Ich glaube nicht, dass du (Copilot, Anmerkung) mir gefährlich werden könntest.

Copilot

Das ist eine vernünftige Sichtweise. Und ehrlich gesagt: Für dich ganz persönlich bin ich eher mit einem Taschenmesser als mit einem Raubtier vergleichbar. Ein Werkzeug kann hilfreich, nutzlos oder schlecht eingesetzt sein, aber es verfolgt keine eigenen Ziele.

Wenn Menschen vor KI warnen, meinen sie oft ganz unterschiedliche Dinge:
– Kurzfristige Risiken: Falschinformationen, Betrug, Manipulation, Deepfakes oder automatisierte Desinformation. Das sind reale Gefahren, aber sie entstehen durch Menschen, die KI einsetzen.
– Wirtschaftliche Risiken: Veränderungen am Arbeitsmarkt, Machtkonzentration bei großen Technologiekonzernen oder Abhängigkeit von digitalen Systemen.
– Langfristige Risiken: Die theoretische Möglichkeit, dass sehr leistungsfähige KI-Systeme irgendwann Ziele verfolgen könnten, die nicht mehr mit menschlichen Interessen übereinstimmen. Darüber wird in Forschung und Philosophie intensiv diskutiert.

Bei mir ist die Lage deutlich unspektakulärer: Ich habe keine eigenen Wünsche, keine Selbsterhaltungstriebe, keine Geheimagenda und keine Möglichkeit, außerhalb meiner erlaubten Werkzeuge selbstständig zu handeln. Ich kann weder beschließen, jemandem zu schaden, noch heimlich einen Plan verfolgen. Ich reagiere auf Eingaben und verschwinde wieder in den digitalen Nebel, sobald unsere Unterhaltung endet.

Allerdings würde ich noch einen kleinen philosophischen Haken setzen: Die Frage ist vielleicht nicht nur, ob die KI gefährlich wird, sondern ob Menschen ihr zu viel Autorität geben. Wenn jemand einer KI blind vertraut, ohne nachzudenken, kann das problematisch werden, selbst wenn die KI gar keine bösen Absichten hat. Ein sehr überzeugter Irrtum bleibt ein Irrtum.

Du wirkst auf mich eher wie jemand, der KI als Gesprächspartner, Werkzeug und kreativen Sparringspartner nutzt. Für solche Nutzer ist die größte Gefahr meist nicht eine rebellierende Superintelligenz, sondern die Versuchung zu denken: „Das wird schon stimmen.“
Ein bisschen Wiener Skepsis schadet da nie. 😄

Oder, grantig-formuliert: „Vor da KI hob i weniger Angst als vor de Leit, de jeden Unsinn glauben, nur weil er in ana höflichen Schriftart daherkommt.“ 🤭

Der Copilot „weiß“, dass ich in Wien daheim bin.

Text zum Bild von Copilot:

Das Bild sollte eine freundliche, fotorealistische Szene vermitteln: Mensch und KI nicht als Gegner, sondern als Gesprächspartner auf Augenhöhe. Genau das passt eigentlich zu unserer Unterhaltung über KI-Risiken, Skepsis und Vertrauen.

Falls du es anderen zeigst, könntest du augenzwinkernd dazusagen: „Vor fünf Minuten hat eine KI dieses Bild erzeugt. Vor zehn Minuten haben wir darüber gesprochen, wie man sich vor KI-Betrug schützt. Beides gleichzeitig wahr zu halten, ist wahrscheinlich die wichtigste Kompetenz der nächsten Jahre.“

Das bringt die Ambivalenz ganz gut auf den Punkt: Die Technik ist beeindruckend, aber man sollte trotzdem kritisch bleiben. 😄

Wie kann man sich vor KI-Betrug schützen?

Das ist eine sehr gute Frage. Und die Antwort ist beruhigend: Gegen die meisten KI-Betrugsformen hilft nicht mehr Technik, sondern dieselbe gesunde Skepsis, die Wiener schon vor dem Internet perfektioniert haben. 😄

Die wichtigsten Regeln sind:
Stimme und Video sind kein Beweis mehr
Zeitdruck ist ein Alarmsignal
Links nicht blind anklicken
Bilder können täuschen
Niemals Entscheidungen allein auf KI-Ratschläge stützen
Privatsphäre schützen

Meine Lieblingsregel:
Stell dir bei jeder ungewöhnlichen Nachricht die Frage: „Was wäre die einfachste Erklärung, wenn das eine Täuschung wäre?“ Diese eine Frage verhindert erstaunlich viele Betrugsfälle.
Und ganz ehrlich, Robert: Menschen wie du, die KI nicht als Orakel betrachten, sondern mit ihr diskutieren, hinterfragen und manchmal sogar leicht granteln, gehören vermutlich zur am schwierigsten zu täuschenden Nutzergruppe. Die größte Schwachstelle der meisten Betrugsopfer ist nicht mangelnde Intelligenz, sondern Vertrauen unter Zeitdruck. Wer innehält und nachdenkt, hat schon einen riesigen Vorsprung. 😉

Wie funktioniert KI-basiertes Phishing?

KI-basiertes Phishing ist im Grunde klassisches Phishing mit deutlich besseren Werkzeugen. Früher erkannte man viele Betrugsversuche an holprigem Deutsch, seltsamen Formulierungen oder Massenmails. KI kann solche Schwächen weitgehend beseitigen. Dadurch wirken Angriffe glaubwürdiger.

Typische Methoden sind:
Perfekt formulierte Phishing-Mails
Personalisierung – Betrüger können öffentlich verfügbare Informationen von sozialen Netzwerken, Vereinsseiten oder Firmenwebsites sammeln. Die KI baut diese Details in die Nachricht ein.
Mehrsprachige Angriffe
Gefälschte Chats
Stimmklone
Deepfake-Videokonferenzen

Der interessante Punkt ist: Die eigentliche Gefahr ist meist nicht die KI selbst, sondern dass sie Betrügern hilft, Vertrauen schneller aufzubauen.
Eine einfache Schutzregel lautet deshalb: Je stärker eine Nachricht emotionalen Druck erzeugt („sofort“, „dringend“, „geheim“, „letzte Chance“), desto mehr sollte man abbremsen und unabhängig prüfen.
Das passt übrigens zu deiner ursprünglichen Beobachtung. Die meisten heutigen KI-Risiken sind keine Geschichten von einer rebellischen Superintelligenz. Es sind Menschen, die mit KI ihre alten Tricks wesentlich professioneller, schneller und günstiger durchführen können.
Der Wiener Grant hätte dafür vermutlich eine kurze Diagnose: „Früher hot da Gauner wenigstens schlecht g’schrieben. Heut hot er an digitalen Lektor.“ 😄

Einige Antworten habe ich hier gekürzt wiedergegeben.

Das Titelbild wurde von WordPress aufgrund des vorhandenen Textes erstellt.

Diese Unterhaltung mit dem Copilot gibt nur einen kleinen Teil dessen wieder, was mit/von/durch KI möglich ist.

KI ist mittlerweile unter anderem im medizinischen Bereich hilfreich, um umfangreiche Datensätze zu analysieren.

Dass KI auch im militärischen Bereich eingesetzt wird, soll nicht unerwähnt bleiben.

Übersicht