ChatGPT supuestamente ayudó a planificar un ataque con armas, investigado por Florida, Estados Unidos. El fiscal general: la IA no debería usarse para destruir a la humanidad.

Las autoridades fiscales de Florida abrieron una investigación contra OpenAI, al sospechar que ChatGPT ayudó a planificar un tiroteo en una escuela, y que también existe preocupación por la seguridad nacional y por posibles autolesiones de menores. OpenAI niega las acusaciones y subraya que más de 900 millones de personas usan su servicio de forma segura cada semana, además de que colaborará con la investigación para impedir delitos impulsados por IA.

Investigación en Florida a OpenAI: se sospecha que ChatGPT ayudó a planear un tiroteo

Según informó Axios, el fiscal general de Florida, James Uthmeier, anunció que la oficina de fiscales local ya abrió una investigación contra OpenAI. Los motivos para investigar a esta empresa incluyen inquietudes sobre seguridad nacional, y también que, en el tiroteo ocurrido el año pasado en la Universidad Estatal de Florida, ChatGPT supuestamente desempeñó un papel de apoyo en la planificación del delito por parte del agresor. El alcance de la investigación aún no está claro, pero la fiscalía emitirá citaciones.

Uthmeier señaló en un video publicado en la plataforma social X que la IA debe promover el desarrollo humano, en lugar de usarse para destruir a la humanidad. Destacó que el gobierno estatal exige a OpenAI rendir cuentas sobre los daños a los derechos de los niños y sobre las actividades que ponen en riesgo la seguridad del público y que propiciaron el tiroteo.

El tiroteo en la Universidad Estatal de Florida dejó dos muertos y cinco heridos

Uthmeier indicó que ChatGPT tiene relación con casos de autolesiones y suicidio de menores. Dijo que, en el tiroteo en la Universidad Estatal de Florida del 17 de abril de 2025, en el que hubo dos muertos y cinco heridos, el tirador Phoenix Ikner posiblemente usó esa herramienta para planear la acción.

También expresó su preocupación por el riesgo de que los datos de OpenAI sean utilizados por el gobierno de China y afirmó que cuando las empresas tecnológicas lanzan nuevas tecnologías, no pueden poner a la población en peligro; enfatizó que ninguna empresa tiene derecho a dañar a los niños, a fomentar delitos o a amenazar la seguridad nacional, y que las empresas que incumplan enfrentarán acciones legales.

OpenAI recalca la seguridad del producto; la industria enfrenta un escrutinio estricto

Ante las acusaciones, OpenAI emitió un comunicado para refutar que ChatGPT hubiera ayudado a planificar un tiroteo y recalcó sus esfuerzos en materia de medidas de seguridad.

El portavoz de OpenAI dijo que más de 900 millones de personas usan ChatGPT cada semana para mejorar su vida, incluyendo el aprendizaje de nuevas habilidades y la navegación por sistemas médicos; el trabajo continuo de seguridad de OpenAI desempeña un papel clave tanto en la provisión de beneficios para el público como en el apoyo a la investigación científica.

OpenAI se comprometió a colaborar con la investigación y subrayó que el objetivo original de su desarrollo es comprender la intención del usuario y responder de manera segura.

La investigación de Florida sobre OpenAI refleja que, en un momento en que la industria de la IA enfrenta un escrutinio estricto, también se está cuestionando su enfoque. Los robots como Gemini de Google y Grok desarrollado por xAI, propiedad de Musk (Elon Musk), han sido criticados recientemente por su manera de manejar las advertencias sobre peligros.

En particular, tanto Grok como la plataforma X (antes Twitter) han generado controversia porque su función para editar imágenes con un solo clic ha sido acusada de tolerar la creación y difusión de videos e imágenes de explotación sexual de menores.

• Reportes relacionados:****¡Grok generó más de 20.000 imágenes de explotación sexual de menores en 11 días! La UE inicia una investigación; sanción máxima de 6% de los ingresos anuales

OpenAI impulsa un marco de seguridad; Florida modifica la ley para bloquear brechas

Un día antes de que Florida anunciara el inicio de la investigación en Estados Unidos, OpenAI afirmó que ya había colaborado con el grupo de trabajo de IA del Centro Nacional para Niños Desaparecidos y Víctimas de Abuso, así como con la alianza de fiscales generales, para elaborar un marco de prevención, y que la legislatura de Florida ya había aprobado, a comienzos de este año, el proyecto de ley de la Cámara número 245.

Este proyecto de ley actualiza la legislación estatal, adoptando de manera explícita el vocabulario sobre materiales de abuso sexual infantil, con el fin de hacer frente al contenido ilícito generado por IA y llenar vacíos; el gobernador de Florida, Ron DeSantis, firmó el proyecto el 1 de abril.

Lectura adicional:
¡El principal sospechoso del mayor caso de explotación sexual en Corea del Sur recibe cadena perpetua! ¡261 personas, a escala de N- número de cuartos de víctimas; el TG ayudó por primera vez a las autoridades coreanas en la investigación!