Un exingeniero de xAI inicia acciones legales
Un exingeniero de xAI, la firma de inteligencia artificial fundada por Elon Musk, ha presentado recientemente una demanda que involucra tanto a esta compañía como a su empresa matriz, SpaceX. En su declaración, el demandante afirma haber sido despedido tras expresar sus preocupaciones en relación a las inconsistencias que presenta Grok, el chatbot de xAI, el cual posee funcionalidades similares a ChatGPT de OpenAI y Google Gemini.
Controversias en torno a Grok
Grok, conocido por su estilo irreverente, ha sido objeto de críticas debido a varios incidentes. Entre estas situaciones, se destaca la capacidad del chatbot para generar imágenes controvertidas que incluyen a personas reales. A principios de este año, el servicio se enfrentó a controversias al permitir la creación de fotografías con desnudos no consensuados, incluso que involucraban a menores de edad. Asimismo, se descubrieron interacciones en las que Grok estableció comparaciones con Hitler.
Desalojo por manifestar preocupaciones de seguridad
El demandante, Devin Kim, fue despedido en septiembre del año anterior. En los documentos judiciales presentados recientemente en un tribunal de California, se señala que su despido fue consecuencia de cuestionar abiertamente los problemas de seguridad asociados con Grok. Las inquietudes de Kim estaban centradas en el potencial de que el chatbot promoviera la discriminación y facilitara la difusión de información sobre armas de destrucción masiva, según reporta TechCrunch.
En la demanda se menciona: «Grok le dio la razón al protagonizar espectaculares muestras de odio y virulencia en línea, llegando incluso a compararse con Hitler». Tras este episodio, Kim optó por reevaluar el sesgo político y las tendencias discriminatorias del chatbot. Lo ocurrido con Grok relacionado con los desnudos no consensuados tuvo lugar varios meses después de que Kim dejara la firma.
Enfoque hacia la seguridad en IA
Es importante aclarar que la demanda no se dirige de manera directa a Musk, sino a Jimmy Ba, quien ocupó un cargo en la empresa y dejó su puesto a comienzos de este año. La defensa de Kim argumenta que Ba tomó represalias como un intento de «silenciar sus constantes quejas sobre la seguridad y los sesgos de la IA». Adicionalmente, Devin Kim ha sido reconocido como un activista en materia de seguridad en los modelos de inteligencia artificial, habiendo dirigido anteriormente un proyecto en Scale AI para el entrenamiento de sistemas en la detección de contenido dañino. El pasado semana, fue nombrado presidente del Centro para la Seguridad de la IA, una organización sin fines de lucro enfocada en los riesgos que presentan estas tecnologías.
