Inteligencia Artificial desata controversia al reportar que un agente policial se transformó en una rana
En Heber City, Utah, un curioso episodio relacionado con la inteligencia artificial ha dejado a más de uno perplejo. Todo sucedió cuando un programa de IA, destinado a redactar informes policiales, generó un reporte disparatado que afirmaba que un agente se había convertido en una rana. Este error salió a la luz a finales del pasado año y llevó a las autoridades a replantearse su uso de esta tecnología.
El malentendido se produjo a causa de un contenido audiovisual que el sistema no logró interpretar correctamente. Como lo comentó el sargento Keel en una entrevista, “la IA de la cámara corporal y el programa de generación de informes detectaron una escena de la película ‘La princesa y el sapo’ que estaba sonando de fondo”.
Este incidente resaltó la necesidad de revisar y corregir los informes generados por IA antes de que sean incorporados a los registros oficiales, advirtió el sargento. El software en cuestión, conocido como Draft One, tenía la finalidad de crear rápidamente reportes a partir de las grabaciones de las cámaras corporales, buscando así aliviar la carga administrativa de los agentes. Sin embargo, durante las pruebas salieron a la luz algunas fallas preocupantes, incluso en situaciones tan simples como una parada de tráfico.
Así, lo ocurrido se convierte en un claro recordatorio de que, aunque la tecnología avanza a pasos agigantados, aún debemos ejercer un control humano sobre lo que generan estas herramientas. Y a veces, la interpretación de la IA puede resultar, literal y figurativamente, un cuento de hadas muy extraño.
DCN/Agencias
