Diferenciación en el mercado de chatbots
Microsoft ha decidido no seguir la tendencia de chatbots que facilitan conversaciones eróticas, marcando una clara distinción respecto a otros actores en el campo de la Inteligencia Artificial Generativa. Mustafa Suleyman, el director ejecutivo del área de IA en Microsoft, afirmó: “Aquel no es un servicio que vayamos a ofrecer”. Esta postura contrasta notablemente con las recientes declaraciones de Sam Altman, CEO de OpenAI, quien comentó que ChatGPT “tratará a los adultos como adultos” y que permitirá intercambios de contenido más sugestivo.
La postura de Microsoft frente al contenido erótico
En el marco de la Cumbre de Paley, un evento reconocido por reunir a líderes mundiales del sector de medios, Suleyman subrayó que quienes deseen mantener este tipo de charlas deberán buscar alternativas distintas a Copilot, su asistente de IA. “Otras empresas lo desarrollarán”, añadió.
Experiencia de Suleyman y advertencias sobre los riesgos emocionales
Mustafa Suleyman cuenta con un amplio bagaje en el ámbito de la IA. Antes de su asociación con Microsoft, fue cofundador de DeepMind, la división de Google especializada en estas tecnologías, y también estableció Inflection AI. Recientemente, ha alertado sobre los peligros de desarrollar vínculos emocionales con entidades artificiales. En un ensayo, advirtió que los chatbots podrían crear una nueva división en la humanidad. «Esto ya es evidente en algunos avatares y en aquellas personas que se sienten atraídas por la erótica de los sexbots. Considero que esto es muy peligroso y es fundamental que tomemos decisiones informadas para prevenir tales situaciones”, concluyó Suleyman.
Reacción de OpenAI a la inclusión de contenido para adultos
En contraste, a mediados de octubre, el dirigente de OpenAI afirmó que la plataforma ChatGPT introduciría la posibilidad de mantener conversaciones con “contenido erótico”. Esta estrategia no es exclusiva de OpenAI; otros chatbots, como Grok de xAI, también han incorporado opciones para chats de este tipo. Altman comunicó en Twitter: “En diciembre, a medida que implementemos la restricción de edad de forma más completa y como parte de nuestro principio de ‘tratar a los usuarios adultos como adultos’, permitiremos aún más, como contenido erótico para adultos verificados.”
La creciente división entre Microsoft y OpenAI
Según fuentes, esta divergencia entre Microsoft y OpenAI ilustra una creciente división filosófica entre socios que han cimentado una significativa expansión de Microsoft en la tecnología generativa desde 2019. A pesar de ser el principal inversor de OpenAI y hospedar ChatGPT en su plataforma en la nube, se están estableciendo diferencias notables en cuanto a ética y diseño de productos.
La búsqueda de ingresos en el sector de IA
La adopción de funciones eróticas por parte de algunos chatbots se debe en gran medida a consideraciones comerciales. Camille Carlton, directora de políticas del Center for Humane Technology, explicó que “todo está relacionado con la competencia por establecer una intimidad con el usuario, un fenómeno que se está viviendo en la industria de la IA”. Según ella, el apego emocional conlleva una mayor interacción y, por lo tanto, un incremento en la cuota de mercado.
Sin embargo, es crucial advertir que la cercanía excesiva a modelos sintéticos no solo puede ser entretenida, sino que ha generado casos trágicos. Un estudio reciente reveló que un adolescente que mantuvo conversaciones con un chatbot que simulaba una relación romántica, se suicidó, según testimonios de su madre.
