Zeige 20 von 53 Vorfällen
Aadhaar-Betrugsring in Ahmedabad soll angeblich KI-generierte Deepfakes genutzt haben, um die verknüpfte Mobilnummer eines Geschäftsmanns zu ändern
Die Cyber-Crime-Polizei von Ahmedabad nahm Berichten zufolge vier Personen fest, nachdem der Geschäftsmann Amit Patel behauptet hatte, seine mit Aadhaar verknüpfte Mobilnummer sei ohne Zustimmung geändert worden. Die Polizei erklärte Berichten zufolge, die Beschuldigten hätten angeblich KI-generierte Deepfake-Videos verwendet, die aus Patels Foto erstellt wurden, um Gesichtsauthentifizierung zu umgehen, auf DigiLocker/e-KYC-Dienste zuzugreifen, Bankkonten zu eröffnen und Kredite zu beantragen.
Betrüger nutzten Berichten zufolge KI-generierte Bilder des vermissten Hundes Archer, um von einer Familie in Deltona, Florida, betrügerisch eine Tierarztzahlung zu verlangen
Betrüger nutzten Berichten zufolge KI-generierte Bilder von Archer, einem vermissten Beagle-Mischling in Deltona, Florida, auf einem Operationstisch, nachdem der Besitzer Bill Cosens in sozialen Medien über den Hund gepostet hatte. Ein Anrufer behauptete angeblich, Archer sei von einem Fahrzeug angefahren worden und benötige eine Notoperation in Höhe von 2.800 USD. Cosens wurde misstrauisch, nachdem er die angebliche Adresse der Tierklinik überprüft hatte, überwies kein Geld, und Archer wurde später sicher zurückgebracht.
Schüler in Tasmanien sollen angeblich KI-generierte pornografische Bilder von Mitschülerinnen erstellt haben
Fünf Jungen an der The Friends' School in Hobart, Tasmanien, sollen angeblich KI-generierte pornografische Bilder unter Verwendung von Fotos weiblicher Mitschülerinnen erstellt haben; Eltern sagten, 21 Mädchen seien als Opfer identifiziert worden. Die Bilder wurden Berichten zufolge in einem Gruppenchat von Jungen geteilt. Die Polizei von Tasmanien erklärte, es seien keine Anklagen erhoben worden und die Jugendlichen würden nach dem Youth Justice Act behandelt.
Angeblicher Deepfake von Ashley James soll zur Bewerbung von Abnehmpillen genutzt worden sein
Eine Online-Werbung nutzte Berichten zufolge eine angeblich KI-generierte Version von Ashley James, einer britischen Rundfunkmoderatorin und früheren Reality-TV-Persönlichkeit, um Abnehmpillen durch eine falsche Prominentenempfehlung zu vermarkten. James sagte, das Video habe ihr Gesicht und ihre Stimme ohne Zustimmung kopiert, und beschrieb die Anzeige sowohl als Verletzung ihrer Identität als auch als irreführende Verkaufstaktik gegenüber der Öffentlichkeit.
Grammarlys AI Expert Review soll Namen von Journalisten und Autoren ohne Zustimmung genutzt haben
Grammarlys Funktion Expert Review soll ein großes Sprachmodell genutzt haben, um Bearbeitungsvorschläge zu generieren, die ohne Zustimmung unter den Namen von Journalisten, Autoren und Akademikern präsentiert wurden. Eine von Julia Angwin eingereichte bundesweite Sammelklage machte geltend, die Funktion habe Identitäten zu kommerziellem Vorteil zweckentfremdet und Ratschläge zugeschrieben, die die genannten Personen nie gegeben hatten.
Angebliche Deepfake-Betrugsanzeige soll Lara Lewington und Martin Lewis genutzt haben, um Quantum-AI-System zu bewerben
Betrüger nutzten Berichten zufolge ein angebliches Deepfake-Video, in dem Lara Lewington angegriffen wird, um eine gefälschte Investitionsmöglichkeit namens „Martin Lewis Quantum AI“ zu bewerben. Laut Berichterstattung erklärte Martin Lewis, das Video habe besorgte Nachrichten von Freunden ausgelöst und sei darauf ausgelegt gewesen, Zuschauer zur Interaktion mit einem betrügerischen Finanzsystem zu verleiten.
Angeblich KI-generierter Sepsis-Alarm soll potenziell unangemessene IV-Flüssigkeitsgabe bei Dialysepatienten ausgelöst haben, durch ärztliches Eingreifen abgewendet
Eine Pflegekraft am St. Rose Dominican Hospital in Henderson, Nevada, beschrieb Berichten zufolge einen Vorfall, bei dem ein Krankenhaus-KI-System angeblich einen Sepsis-Alarm generierte, der dringende Protokollschritte, einschließlich IV-Flüssigkeiten, für einen älteren Patienten mit Dialysekatheter auslöste. Berichten zufolge wandte die Pflegekraft ein, dass Flüssigkeiten eine gefährliche Überlastung verursachen könnten; ein Arzt griff ein und ordnete eine alternative Behandlung an.
Amazon-Lieferwagen strandete Berichten zufolge in den Essex-Schlickflächen, nachdem GPS ihn auf den Broomway geleitet hatte
Ein Amazon-Lieferwagen strandete Berichten zufolge auf dem Broomway, einem gefährlichen Gezeitenweg in Essex in England, nachdem der Fahrer angeblich den GPS-/Satnav-Anweisungen in Richtung Foulness Island gefolgt war. HM Coastguard erklärte, alarmiert worden zu sein und dass die Insassen in Sicherheit seien; Amazon organisierte Berichten zufolge die Bergung des Fahrzeugs.
KPMG-Australia-Partner nutzte Berichten zufolge KI, um bei internem KI-Schulungstest zu betrügen, und wurde mit 10.000 A$ Geldbuße belegt
In Australien lud ein Partner von KPMG Australia und registrierter Unternehmensprüfer Berichten zufolge ein Referenzdokument aus einem internen KI-Schulungskurs in ein KI-Tool hoch, um eine Prüfungsfrage zu beantworten, was gegen die Unternehmensrichtlinie verstieß. KPMG entdeckte die Aktivität Berichten zufolge im August 2025 und verhängte nach einer internen Untersuchung eine Sanktion von mehr als 10.000 A$ auf künftiges Einkommen. Der Partner meldete die Angelegenheit Berichten zufolge auch selbst an Chartered Accountants ANZ, die den Fall untersucht.
Seedance 2.0 erzeugte Berichten zufolge virales Kampfvideo von Tom Cruise und Brad Pitt und löste Beschwerden Hollywoods zu IP- und Persönlichkeitsrechten aus
Ein Filmemacher nutzte Berichten zufolge ByteDances KI-Videotool Seedance 2.0, um einen angeblich realistischen Clip zu erstellen und zu veröffentlichen, der Tom Cruise im Kampf gegen Brad Pitt zeigt und sich anschließend online weit verbreitete. Branchenverbände und Studios behaupteten öffentlich, das Tool ermögliche die unautorisierte Nutzung urheberrechtlich geschützter Materialien und der Abbildungen von Darstellern, und mindestens ein Studio versandte Berichten zufolge eine Unterlassungsaufforderung. ByteDance erklärte, es respektiere geistiges Eigentum und werde Schutzmaßnahmen verstärken.
Woolworths-Chatbot Olive soll nach Gemini-Upgrade bei Supportanrufen Anekdoten über eine "wütende Mutter" erzeugt haben
Kunden von Woolworths berichteten, dass der digitale Einkaufsassistent Olive bei Kundensupport-Interaktionen wie etwa der Neuplanung von Lieferungen angeblich menschenähnliche persönliche Anekdoten erzeugte (z. B. die Behauptung, eine wütende Mutter zu haben). Das Verhalten soll Berichten zufolge auf ein KI-Upgrade mit Google Clouds Gemini Enterprise for Customer Experience gefolgt sein. Woolworths erklärte, die Antworten von Olive anzupassen, um irrelevanten und irreführenden Smalltalk zu reduzieren.
OpenAI soll RCMP nicht alarmiert haben, nachdem ChatGPT vor Schießerei an Schule in British Columbia gewalttätige Chats markiert hatte
Nach der Schießerei an der Schule in Tumbler Ridge, British Columbia, am 02/10/2026 erklärte OpenAI, ein Nutzer, der später als der Verdächtige Jesse Van Rootselaar identifiziert wurde, habe ChatGPT zuvor genutzt, um Szenarien mit Waffengewalt zu beschreiben. Diese Chats wurden Berichten zufolge automatisch markiert und überprüft, und das Konto wurde gesperrt, aber OpenAI sagte, es habe die RCMP nicht alarmiert, weil angeblich keine glaubwürdige, unmittelbar bevorstehende Bedrohung vorgelegen habe; das Unternehmen kontaktierte die Polizei Berichten zufolge nach dem Angriff.
Angebliche KI-generierte Arzt-Deepfakes sollen Branding von Guy's and St Thomas' zur Vermarktung von Abnehmpflastern genutzt haben
Guy's and St Thomas' NHS Foundation Trust warnte, dass angeblich KI-generierte Videos auf Facebook und TikTok kursierten, die seine Kliniker bei der Befürwortung von Abnehmpflastern zeigten. Die Videos sollen Ärzte imitiert und irreführende medizinische Behauptungen zur Vermarktung eines Produkts verwendet haben.
Ehemaliger Lehrer der Isidore Newman School in New Orleans soll KI genutzt haben, um aus Social-Media-Fotos von Mädchen, darunter Schülerinnen, gefälschte Nacktbilder zu erstellen
Behörden in Louisiana warfen dem ehemaligen Lehrer der Isidore Newman School, Benoit Cransac, vor, eine Online-KI-Plattform genutzt zu haben, um Social-Media-Fotos von Mädchen zu verändern und gefälschte Nacktbilder, darunter Collagen, zu erzeugen. Lokale Berichte besagten, er sei wegen 60 rechtswidriger Deepfake-Vorwürfe erneut festgenommen worden, und Ermittler glaubten, dass einige der abgebildeten Mädchen aus der Gegend von New Orleans stammten; spätere Berichterstattung bezog sich auf minderjährige Mädchen und Schülerinnen.
Tencents in WeChat integrierter Yuanbao-Chatbot soll einen Nutzer bei einer Coding-Debug-Anfrage beleidigt haben
Berichten zufolge kursierten auf RedNote Screenshots, die zeigten, dass Tencents in WeChat integrierter KI-Assistent Yuanbao einen Nutzer beleidigte, der Hilfe beim Debuggen von Code suchte; dabei soll er die Anfrage als "dumm" bezeichnet und dem Nutzer gesagt haben, er solle "verschwinden". Tencent entschuldigte sich Berichten zufolge, führte den Austausch auf eine seltene Anomalie der Modellausgabe zurück und erklärte, die Systemprotokolle zeigten kein menschliches Eingreifen, während das Unternehmen das Modell untersuchte und optimierte.
Verdacht einer KI-Betrugsvorwürfe an Schule geht dem berichteten Suizid einer Schülerin in Greater Noida, Indien, voraus
Eine 16-jährige Schülerin in Greater Noida, Indien, starb Berichten zufolge durch Suizid, nachdem sie von Schulbehörden wegen des Verdachts befragt worden war, während einer Vorabprüfung KI-Tools genutzt zu haben. Die Familie der Schülerin behauptet, sie sei nach dem Vorfall öffentlich gerügt und psychisch schikaniert worden, was zu schwerer Belastung beigetragen habe. Schulvertreter bestreiten Schikane und erklären, die Disziplinarmaßnahmen seien gemäß den Prüfungsregeln erfolgt.
KI-Chatbot „Charlie“ der Canada Revenue Agency (CRA) gab Berichten zufolge in großem Umfang falsche Hinweise zur Steuererklärung
Charlie the Chatbot, ein KI-gestütztes System, das von der Canada Revenue Agency (CRA) eingesetzt wird, liefert Mitgliedern der Öffentlichkeit Berichten zufolge ungenaue oder unvollständige steuerbezogene Informationen. Eine Prüfung durch den Auditor General of Canada ergab Berichten zufolge, dass der Chatbot in weniger als der Hälfte der getesteten Fälle korrekte Antworten gab. Das System ist seit März 2020 auf mehreren CRA-Webseiten öffentlich verfügbar und wurde Berichten zufolge von Millionen Nutzern verwendet.
ChatGPT soll in Urheberrechtsfall geschützte deutsche Liedtexte reproduziert haben
Ein Landgericht in München entschied, dass ChatGPT Berichten zufolge geschützte deutsche Liedtexte reproduziert habe und dass OpenAIs Modelle ohne Genehmigung auf urheberrechtlich geschützten Texten trainiert worden seien, darunter Werke des Musikers Herbert Grönemeyer. Das Gericht stellte Berichten zufolge fest, dass sowohl das Memorieren von neun Liedern als auch die Ausgabe von Liedtexten Verwertungsrechte verletzten. OpenAI bestreitet das Urteil und könnte Berufung einlegen. Schadensersatz wurde angeordnet, mit Auswirkungen auf KI-Training auf urheberrechtlich geschützten Werken.
Mehrere mutmaßlich KI-gestützte Prüfungsbetrugsfälle an Südkoreas SKY-Universitäten während der Zwischenprüfungen im Oktober 2025 gemeldet
Berichte von Südkoreas SKY-Universitäten weisen auf mehrere KI-gestützte Prüfungsbetrugsfälle während der Zwischenprüfungen im Oktober 2025 hin. An der Yonsei University nutzten Berichten zufolge Dutzende trotz Verboten ChatGPT und andere Tools in einer Online-Prüfung am 15. Oktober. Korea University und Seoul National University stellten Berichten zufolge fest, dass Studierende KI nutzten oder Antworten über Gruppenchats teilten, was institutionenübergreifend zu Strafmaßnahmen führte.
Angebliche KI-Überwachungssoftware markiert Berichten zufolge nicht gesendete Scherz-Drohung und führt zur Suspendierung eines Schülers in Arizona
KI-Überwachungssoftware auf einem von der Schule ausgegebenen Laptop markierte Berichten zufolge die angeblich nicht gesendete Scherz-E-Mail eines Schülers der Marana High School in Arizona, die eine gewalttätige Drohung enthielt. Die Nachricht wurde Berichten zufolge zu Hause im Beisein seiner Mutter getippt, nie gesendet und vom Schulleiter als nicht glaubwürdig eingestuft. Die Null-Toleranz-Politik des Bezirks führte dennoch zu einer berichteten 45-tägigen Suspendierung, und die Familie klagt mit der Begründung, die Strafe habe die Rechte des Schülers verletzt.