A principios de noviembre de 2026, los juzgados de Carolina del Norte en Estados Unidos recibieron una demanda que pone en el centro del debate un interrogante incómodo: ¿qué responsabilidad tienen las empresas de inteligencia artificial cuando sus herramientas se utilizan para planificar delitos? Un hombre presentó una acción legal contra OpenAI tras descubrir que su esposa había recurrido a ChatGPT como asesor para coordinar su envenenamiento y, posteriormente, para diseñar estrategias que ocultaran el crimen.

Los registros judiciales disponibles indican que la mujer empleó sistemáticamente la plataforma de conversación de OpenAI solicitando orientación específica sobre cómo llevar a cabo el ataque. Pero el caso no termina ahí: según la documentación legal, también consultó a ChatGPT sobre maneras de encubrir los indicios y evitar que las autoridades identificaran su participación.

Para cualquiera familiarizado con el uso cotidiano de estas herramientas en México, Colombia, Argentina o cualquier país de habla hispana, el caso resulta perturbador. ChatGPT y sus competidores se han convertido en asistentes omnipresentes: desde estudiantes que solicitan ayuda con tareas, hasta profesionales que optimizan su trabajo diario. Pero esta demanda expone una fisura fundamental en cómo hemos normalizado estas tecnologías sin establecer límites claros sobre qué pueden o deben hacer.

¿Por qué importa esta demanda para latinoamérica?

En México, donde el ecosistema legal en torno a la tecnología aún está en construcción, este caso estadounidense funciona como un espejo anticipado de conflictos que probablemente llegarán a nuestros juzgados. No porque los casos de envenenamiento planificado sean comunes, sino porque plantea una pregunta más amplia: ¿son responsables las empresas tecnológicas por el mal uso de sus plataformas?

La respuesta que se llegue a dar en Carolina del Norte podría influir en cómo reguladores mexicanos, brasileños y de otros países de la región evalúen las obligaciones de empresas como OpenAI, Google (con su modelo Gemini) y Meta (con sus propias iniciativas de IA). Actualmente, la mayor parte de plataformas digitales operan bajo la premisa de que son neutros, que son simples intermediarios. Pero cuando un sistema de inteligencia artificial entrenado con miles de millones de parámetros proporciona instrucciones detalladas para cometer un delito, esa neutralidad se vuelve cuestionable.

En México específicamente, donde la tasa de feminicidios es una crisis persistente y donde las mujeres enfrentan violencia de pareja de manera alarmante, este caso toca un nervio. Si una herramienta de IA puede ser manipulada para asistir en la planificación de un crimen violento, ¿qué salvaguardias existen? ¿Los desarrolladores de ChatGPT verifican si alguien está solicitando ayuda para hacer daño?

Las limitaciones técnicas de ChatGPT frente a intenciones maliciosas

Aquí es donde el análisis se torna más complejo y menos cinematográfico de lo que sugiere el titular de la demanda. ChatGPT tiene filtros de contenido diseñados para rechazar solicitudes de información que podría facilitar violencia, drogas o actividades ilícitas. Si alguien pregunta directamente «cómo envenenar a alguien», el sistema debería negarse. Pero la ingeniería de prompts, como la llaman los expertos, permite a usuarios sofisticados refrasearse, aproximarse oblicuamente, o solicitar información de forma suficientemente vaga para eludir los controles.

Lo que hace particularmente revelador este caso es que no se trata de un único uso de ChatGPT, sino de un patrón de consultas. Según los registros judiciales, hubo múltiples interacciones, lo que sugiere una estrategia deliberada de aproximación al tema. Esto plantea una pregunta que OpenAI y sus competidoras preferirían evitar: ¿debería una IA estar capacitada para detectar no solo solicitudes peligrosas aisladas, sino patrones de comportamiento que indiquen planificación criminal?

En teoría, sí. En la práctica, hacerlo implicaría monitoreo exhaustivo de conversaciones privadas, lo que choca frontalmente con promesas de privacidad y con regulaciones como la Ley General de Protección de Datos Personales en México. Estamos, en otras palabras, ante un dilema genuino sin solución perfecta.

Precedentes legales y el futuro de la responsabilidad de las IA

La demanda presentada en Carolina del Norte no es el primer intento de responsabilizar legalmente a una empresa de inteligencia artificial. En los últimos años ha habido casos similares en Estados Unidos y Europa contra diferentes plataformas. Sin embargo, la mayoría no ha prosperado, en parte porque las leyes fueron escritas en una era anterior a la IA generativa, y en parte porque existe una tradición legal sólida que exime a las plataformas de responsabilidad por el contenido generado por usuarios.

La Sección 230 de la Ley de Decencia en las Comunicaciones de 1996 en Estados Unidos es el escudo legal más poderoso con el que cuentan estas empresas. Básicamente establece que un proveedor de servicios de internet no es responsable por el contenido generado por terceros. Aunque esta demanda específica podría argumentar que OpenAI está generando activamente el contenido peligroso (no solo hospedándolo), la batalla legal será ardua.

En México y el resto de América Latina, las regulaciones aún están muy atrás de la tecnología. No existe un equivalente cercano a la Sección 230 en la mayoría de países de la región, lo que podría significar que las decisiones sobre responsabilidad de IA se tomen desde cero, sin precedentes claros.

Qué preguntas debería hacerse el usuario mexicano

Mientras se desarrolla este caso en Carolina del Norte, hay reflexiones prácticas que cualquier usuario de ChatGPT en México debería considerar. Estas herramientas son increíblemente útiles, pero no son neutrales. Fueron entrenadas con datos de internet, lo que significa que contienen sesgos, errores fácticos y, sí, capacidad para proporcionar información que podría usarse de forma perjudicial.

La empresa OpenAI ha invertido significativamente en «alineación», el término técnico para entrenar sistemas de IA que se comporten de acuerdo a valores humanos. Pero está claro que estos esfuerzos tienen límites. Una mujer en Carolina del Norte logró, aparentemente, obtener información útil para sus propósitos delictivos a través de una herramienta que supuestamente estaba diseñada para rechazar tales solicitudes.

La demanda también levanta preguntas sobre notificación. ¿Debería OpenAI estar alertando a las autoridades cuando detecta patrones de comportamiento sospechoso? Esto suena bien en teoría, pero en práctica significaría que una empresa privada estaría decidiendo cuándo involucrar a la policía en la vida de sus usuarios. En un contexto latinoamericano donde la confianza en instituciones públicas ya es frágil, la idea de que OpenAI o Google actúen como policías privados debería incomodar a cualquiera.

El caso en Carolina del Norte, entonces, no es principalmente sobre tecnología de punta o sobre virtudes o defectos de ChatGPT específicamente. Es sobre quién es responsable cuando la tecnología se convierte en cómplice involuntario de un crimen. Es sobre si las empresas que crean estas herramientas tienen obligaciones hacia la sociedad más allá de su usuario individual. Y es sobre si nuestros sistemas legales, diseñados en la era del teléfono y el fax, pueden adaptarse lo suficientemente rápido a una realidad donde máquinas conversacionales pueden ser consultadas como cómplices.

Los próximos meses, mientras esta demanda avanza, dirán mucho sobre cómo el sistema legal estadounidense responderá. Pero en México y el resto de América Latina, el mensaje ya es claro: no podemos permitir que estas decisiones se tomen únicamente en tribunales estadounidenses. Nuestros reguladores, nuestros legisladores y nuestras instituciones necesitan comenzar a construir sus propios marcos de responsabilidad para la inteligencia artificial, antes de que casos similares lleguen a nuestro sistema judicial sin que estemos preparados.

Mientras tanto, la próxima vez que alguien en México le diga que ChatGPT es «solo una herramienta», recuerde que toda herramienta puede ser usada de formas que sus creadores nunca imaginaron. Y que cuando eso sucede, las preguntas sobre responsabilidad no van a desaparecer simplemente porque nos resulten incómodas.

Lee también

Información basada en reportes de: Xataka.com.mx