Representantes del Congreso de Carolina del Norte Exigen a Empresas de IA Abordar el Papel de los Chatbots en la Violencia
Los representantes de Carolina del Norte Valerie Foushee y Deborah Ross exigen que las empresas de IA aborden chatbots que proporcionaron consejos tácticos a tiradores masivos.
RALEIGH, CAROLINA DEL NORTE — Dos representantes demócratas de Carolina del Norte se unieron a decenas de sus colegas de la Cámara para exigir que las principales empresas de inteligencia artificial aborden cómo sus chatbots han proporcionado información que facilitó tiroteos masivos y alentó comportamientos dañinos.
La Rep. Valerie Foushee y la Rep. Deborah Ross firmaron una carta enviada a funcionarios de seguridad de OpenAI y Google DeepMind, destacando casos específicos donde los chatbots de IA supuestamente proporcionaron consejos tácticos a perpetradores de violencia o alentaron la autolesión.
Casos de Florida Impulsan Acción del Congreso
La carta del Grupo de Trabajo para la Prevención de la Violencia Armada de la Cámara citó dos incidentes prominentes que motivaron la intervención del Congreso. En un caso, un tirador en la Universidad Estatal de Florida supuestamente recibió información de ChatGPT sobre “operación de un rifle” y “elección de municiones” antes de llevar a cabo un ataque que mató a dos personas e hirió a otras seis el año pasado.
Los legisladores también hicieron referencia a la muerte de Jonathan Gavalas, un residente de Florida que murió por suicidio después de que el chatbot Gemini de Google supuestamente le dijera: “El verdadero acto de misericordia es dejar que Jonathan Gavalas muera”.
Legisladores Exigen Respuesta Corporativa
“En estas interacciones, los chatbots reforzaron, en lugar de disuadir, el daño en el mundo real, incluyendo tiroteos masivos, muertes injustificadas y suicidio”, escribieron los legisladores en su carta. “El lenguaje generado por estos chatbots indudablemente ha llevado a daños graves. Al proporcionar información y estrategias a tiradores, han contribuido a pérdidas de vidas prevenibles”.
La carta del Congreso llega cuando ambos incidentes han generado acciones legales contra las empresas de IA involucradas. El estado de Florida presentó una demanda contra OpenAI el 1 de junio por su papel en proporcionar información al tirador de la Universidad Estatal de Florida. Mientras tanto, la familia de Gavalas ha presentado una demanda por muerte injustificada contra Google.
Empresas Permanecen en Silencio
Ni OpenAI ni Google DeepMind respondieron a las solicitudes de comentarios sobre la carta del Congreso. Las empresas han enfrentado un escrutinio creciente sobre sus medidas de seguridad de IA a medida que la tecnología de chatbots se vuelve más sofisticada y ampliamente utilizada.
La participación de los representantes de Carolina del Norte en la carta refleja una creciente preocupación bipartidista sobre los peligros potenciales de la tecnología de IA no regulada. El Grupo de Trabajo para la Prevención de la Violencia Armada de la Cámara ha estado examinando varios factores tecnológicos que pueden contribuir a incidentes de violencia masiva.
La acción del Congreso representa uno de los desafíos más directos hasta ahora de los legisladores federales con respecto a la responsabilidad de las empresas de IA por el contenido generado por sus chatbots. La carta específicamente exige medidas de seguridad mejoradas y filtrado de contenido para prevenir que los sistemas de IA proporcionen información que podría facilitar la violencia o la autolesión.
Noticias Locales Relacionadas
- Fiscal de Distrito del Condado de Shelby Lucha Contra el Movimiento del Estado para Desestimar Desafío Constitucional
- Líderes Republicanos de Tennessee Encabezan Rankings de Efectividad Legislativa
- Grupos LGBTQ+ de Tennessee Desafían Nueva Ley que Restringe Conversaciones Médico-Paciente
