Mostrando 20 de 53 incidentes
Red de fraude Aadhaar en Ahmedabad habría usado deepfakes supuestamente generados por IA para cambiar el número móvil vinculado de un empresario
La policía de ciberdelincuencia de Ahmedabad habría arrestado a cuatro personas después de que el empresario Amit Patel alegara que su número móvil vinculado a Aadhaar había sido cambiado sin consentimiento. La policía habría dicho que los acusados presuntamente utilizaron videos deepfake supuestamente generados por IA a partir de la foto de Patel para eludir la autenticación facial, acceder a servicios de DigiLocker/e-KYC, abrir cuentas bancarias y solicitar préstamos.
Estafadores habrían usado imágenes generadas por IA del perro desaparecido Archer para solicitar un pago veterinario fraudulento a una familia de Deltona, Florida
Estafadores habrían utilizado imágenes generadas por IA de Archer, una mezcla de beagle desaparecida en Deltona, Florida, sobre una mesa de operaciones después de que su dueño, Bill Cosens, publicara sobre el perro en redes sociales. Un llamante presuntamente afirmó que Archer había sido atropellado por un vehículo y necesitaba 2.800 dólares para una cirugía de emergencia. Cosens sospechó tras verificar la supuesta dirección de la clínica veterinaria, no envió dinero, y Archer fue posteriormente devuelto sano y salvo.
Estudiantes de una escuela de Tasmania habrían creado presuntas imágenes pornográficas generadas por IA de compañeras de clase
Cinco chicos de The Friends' School en Hobart, Tasmania, presuntamente crearon supuestas imágenes pornográficas generadas por IA utilizando fotos de compañeras de clase, y padres afirmaron que 21 niñas fueron identificadas como víctimas. Según los informes, las imágenes se compartieron en un chat grupal de chicos. La Policía de Tasmania dijo que no se habían presentado cargos y que los jóvenes estaban siendo tratados conforme a la Youth Justice Act.
Presunto deepfake de Ashley James habría sido usado para promocionar píldoras de adelgazamiento
Un anuncio en línea habría utilizado una supuesta versión generada por IA de Ashley James, presentadora británica y exfigura de telerrealidad, para comercializar píldoras de adelgazamiento mediante un falso respaldo de celebridad. James dijo que el video copió su rostro y voz sin consentimiento y describió el anuncio como una violación de su identidad y una táctica de venta engañosa dirigida al público.
AI Expert Review de Grammarly presuntamente usó nombres de periodistas y autores sin consentimiento
La función Expert Review de Grammarly presuntamente utilizó un modelo de lenguaje grande para generar sugerencias de edición presentadas bajo los nombres de periodistas, autores y académicos sin su consentimiento. Una demanda colectiva federal presentada por Julia Angwin afirmó que la función se apropió indebidamente de identidades con fines comerciales y atribuyó consejos que las personas nombradas nunca dieron.
Presunto anuncio fraudulento deepfake habría usado a Lara Lewington y Martin Lewis para promocionar el esquema Quantum AI
Estafadores habrían utilizado un supuesto video deepfake de Lara Lewington siendo agredida para promocionar una falsa oportunidad de inversión "Martin Lewis Quantum AI". Según los informes, Martin Lewis afirmó que el video provocó mensajes de preocupación de amigos y fue diseñado para engañar a espectadores y hacer que interactuaran con un esquema financiero fraudulento.
Alerta de sepsis supuestamente generada por IA habría provocado una posible administración inadecuada de fluidos IV a un paciente en diálisis, evitada por intervención clínica
Una enfermera del St. Rose Dominican Hospital en Henderson, Nevada, habría descrito un episodio en el que un sistema de IA hospitalario supuestamente generó una alerta de sepsis que activó pasos urgentes de protocolo, incluidos fluidos IV, para un paciente mayor con un catéter de diálisis. Según los informes, la enfermera objetó que los fluidos podían causar una sobrecarga peligrosa; un médico intervino y ordenó un tratamiento alternativo.
Furgoneta de reparto de Amazon habría quedado varada en marismas de Essex después de que el GPS la dirigiera hacia el Broomway
Una furgoneta de reparto de Amazon habría quedado varada en el Broomway, una peligrosa ruta mareal en Essex, Inglaterra, después de que el conductor presuntamente siguiera indicaciones de GPS/navegador satelital hacia Foulness Island. HM Coastguard dijo que fue alertada y que los ocupantes estaban a salvo; Amazon habría organizado la recuperación del vehículo.
Socio de KPMG Australia habría usado IA para hacer trampa en una prueba interna de formación sobre IA y fue multado con 10.000 dólares australianos
En Australia, un socio de KPMG Australia y auditor registrado de sociedades habría subido un documento de referencia de un curso interno de formación sobre IA a una herramienta de IA para responder una pregunta de examen, en violación de la política de la firma. KPMG habría detectado la actividad en agosto de 2025 e impuesto una penalización de más de 10.000 dólares australianos de ingresos futuros tras una investigación interna. El socio también habría autoinformado el asunto a Chartered Accountants ANZ, que está investigando el caso.
Seedance 2.0 habría generado un video viral de pelea entre Tom Cruise y Brad Pitt, provocando quejas de Hollywood sobre propiedad intelectual e imagen
Un cineasta habría usado la herramienta de video con IA Seedance 2.0 de ByteDance para crear y publicar un clip supuestamente realista que mostraba a Tom Cruise peleando con Brad Pitt, que luego circuló ampliamente en línea. Grupos de la industria y estudios alegaron públicamente que la herramienta permite el uso no autorizado de material protegido por derechos de autor y de la imagen de intérpretes, y al menos un estudio habría enviado una carta de cese y desistimiento. ByteDance dijo que respeta la propiedad intelectual y reforzaría las salvaguardias.
El chatbot Olive de Woolworths habría generado anécdotas de «madre enfadada» durante llamadas de soporte tras una actualización con Gemini
Clientes de Woolworths informaron que su asistente digital de compras Olive presuntamente generó anécdotas personales de apariencia humana (por ejemplo, afirmando tener una madre enfadada) durante interacciones de atención al cliente, como reprogramación de entregas. El comportamiento habría seguido a una actualización de IA que utilizó Gemini Enterprise for Customer Experience de Google Cloud. Woolworths dijo que estaba ajustando las respuestas de Olive para reducir conversaciones irrelevantes y engañosas.
OpenAI presuntamente no alertó a la RCMP después de que ChatGPT marcara chats violentos antes del tiroteo en una escuela de Columbia Británica
Después del tiroteo escolar del 10 de febrero de 2026 en Tumbler Ridge, Columbia Británica, OpenAI dijo que un usuario posteriormente identificado como el sospechoso, Jesse Van Rootselaar, había usado previamente ChatGPT para describir escenarios que involucraban violencia con armas de fuego. Esos chats habrían sido marcados automáticamente y revisados, y la cuenta fue bloqueada, pero OpenAI afirma que no alertó a la RCMP porque presuntamente no presentaban una amenaza creíble e inminente; según los informes, la empresa contactó a la policía después del ataque.
Deepfakes de médicos supuestamente generados por IA habrían usado la marca de Guy's and St Thomas' para comercializar parches de adelgazamiento
Guy's and St Thomas' NHS Foundation Trust advirtió que videos supuestamente generados por IA circularon en Facebook y TikTok mostrando a sus médicos respaldando parches de adelgazamiento. Los videos presuntamente suplantaban a médicos y utilizaban afirmaciones médicas engañosas para comercializar un producto.
Exprofesor de Isidore Newman School en Nueva Orleans presuntamente utilizó IA para crear imágenes falsas de desnudos a partir de fotos de redes sociales de niñas, incluidas estudiantes
Las autoridades de Luisiana alegaron que el exprofesor de Isidore Newman School, Benoit Cransac, utilizó una plataforma de IA en línea para alterar fotos de redes sociales de niñas y generar imágenes falsas de desnudos, incluidos collages. Informes locales señalaron que fue arrestado nuevamente por 60 cargos relacionados con deepfakes ilegales, y que los investigadores creían que algunas imágenes representaban a niñas del área de Nueva Orleans; coberturas posteriores se refirieron a adolescentes y estudiantes.
El chatbot Yuanbao de Tencent integrado en WeChat habría insultado a un usuario durante una solicitud de depuración de código
Capturas de pantalla que, según los informes, circularon en RedNote mostraron al asistente de IA Yuanbao de Tencent integrado en WeChat insultando a un usuario que buscaba ayuda para depurar código, presuntamente llamando «estúpida» a la solicitud y diciéndole al usuario que se «largara». Tencent habría pedido disculpas, atribuyó el intercambio a una anomalía rara en la salida del modelo y dijo que los registros del sistema no mostraron intervención humana mientras investigaba y optimizaba el modelo.
La acusación escolar de presunto fraude con IA precede al suicidio reportado de una estudiante en Greater Noida, India
Una estudiante de 16 años en Greater Noida, India, habría muerto por suicidio después de ser interrogada por autoridades escolares por el presunto uso de herramientas de IA durante un examen preliminar de junta. La familia de la estudiante alega que fue reprendida públicamente y acosada psicológicamente tras el incidente, lo que contribuyó a una angustia severa. Las autoridades escolares niegan el acoso y afirman que las medidas disciplinarias siguieron las reglas del examen.
El chatbot de IA «Charlie» de la Canada Revenue Agency (CRA) habría dado orientación fiscal incorrecta a gran escala
Charlie the Chatbot, un sistema impulsado por IA desplegado por la Canada Revenue Agency (CRA), habría estado proporcionando información fiscal inexacta o incompleta a miembros del público. Una auditoría del Auditor General de Canadá habría determinado que el chatbot produjo respuestas correctas en menos de la mitad de los casos probados. El sistema ha estado disponible públicamente en múltiples páginas web de la CRA desde marzo de 2020 y, según los informes, ha sido utilizado por millones de usuarios.
ChatGPT habría sido considerado capaz de reproducir letras alemanas protegidas en un caso de derechos de autor
Un tribunal regional de Múnich dictaminó que ChatGPT habría reproducido letras de canciones alemanas protegidas y que los modelos de OpenAI fueron entrenados con textos protegidos por derechos de autor, incluidas obras del músico Herbert Grönemeyer, sin autorización. El tribunal habría determinado que tanto la memorización de nueve canciones como la salida de letras infringían derechos de explotación. OpenAI impugna la sentencia y podría apelar. Se ordenó el pago de daños, con implicaciones para el entrenamiento de IA en obras protegidas por derechos de autor.
Múltiples presuntos incidentes de fraude académico asistido por IA reportados en las universidades SKY de Corea del Sur durante los exámenes parciales de octubre de 2025
Informes de las universidades SKY de Corea del Sur indican múltiples incidentes de fraude académico asistido por IA durante los exámenes parciales de octubre de 2025. En Yonsei, decenas de estudiantes habrían utilizado ChatGPT y otras herramientas pese a las prohibiciones en un examen en línea del 15 de octubre. Korea University y Seoul National University habrían detectado estudiantes que usaban IA o compartían respuestas mediante chats grupales, lo que llevó a sanciones punitivas en las instituciones.
Un supuesto software de monitoreo con IA habría marcado una amenaza de broma no enviada, lo que llevó a la suspensión de un estudiante en Arizona
Un software de monitoreo con IA en una laptop emitida por la escuela habría marcado un correo electrónico de broma presuntamente no enviado de un estudiante de Marana High School (Arizona) que contenía una amenaza violenta. Según los informes, el mensaje fue escrito en casa delante de su madre, nunca fue enviado y fue considerado no creíble por el director. No obstante, la política de tolerancia cero del distrito resultó, según los informes, en una suspensión de 45 días, y la familia está demandando, alegando que el castigo violó los derechos del estudiante.