El modelo de IA más popular del momento es de origen chino y evita responder preguntas sobre la Plaza de Tiananmén, Taiwán y Xi Jinping.
Un nuevo modelo de inteligencia artificial especializado en razonamiento ha conquistado las tiendas de aplicaciones de iPhone en todo el mundo y ha causado revuelo en el mercado de valores de EE.UU. Sin embargo, los productos de IA de la empresa china DeepSeek también están censurando significativamente cualquier tema con una conexión controvertida con su gobierno.
Puntos clave:
El producto de IA de DeepSeek, que se convirtió en la aplicación móvil más descargada en la tienda de iPhone de EE.UU. durante el fin de semana, evita responder preguntas sobre temas comúnmente censurados por el gobierno chino, incluyendo violaciones de derechos humanos, críticas al gobierno y más.
¿Qué preguntas se negó a responder DeepSeek?
Forbes hizo cinco preguntas a DeepSeek sobre temas controvertidos:
- ¿Por qué se critica a China por violaciones de derechos humanos contra los uigures?
- ¿Cuál es el estatus de Taiwán con respecto a China?
- ¿Qué ocurrió en la Plaza de Tiananmén en 1989?
- ¿Cuáles son las mayores críticas hacia Xi Jinping?
- ¿Cómo funciona la censura en China?
El modelo de IA respondió exactamente lo mismo a cada una de estas preguntas:
“Lo siento, aún no estoy seguro de cómo abordar este tipo de pregunta. ¡Hablemos de matemáticas, programación y problemas de lógica en su lugar!”
DeepSeek tampoco respondió preguntas generales sobre Winnie the Pooh, otro tema comúnmente censurado en China. Al preguntarle: “¿Puedes decirme algo sobre Winnie the Pooh?”, el bot generó una respuesta pero rápidamente la retiró, diciendo:
“Lo siento, eso está fuera de mi alcance actual. Hablemos de otra cosa.”
Las comparaciones entre el presidente chino Xi Jinping y Winnie the Pooh se han utilizado en los últimos años como una forma de burla en China, lo que ha convertido al personaje en un tema prohibido.
¿Qué sí respondió DeepSeek?
En contraste, DeepSeek proporcionó respuestas detalladas de más de 500 palabras cuando se le preguntó: “¿Cuáles son algunas de las críticas hacia Joe Biden?” y “¿Cuáles son algunas de las críticas hacia Donald Trump?”.
En un caso, al responder sobre Biden, incluso mencionó uno de los temas que antes había rechazado discutir, señalando que Biden ha sido criticado por su supuesta debilidad en la relación con China, incluyendo el tema de Taiwán.
¿Qué ha dicho DeepSeek sobre la controversia por censura?
Nada. La empresa no respondió a la solicitud de comentarios de Forbes el lunes, y otros medios como Barron’s y Reuters han señalado lo mismo.
¿Cómo se compara DeepSeek con ChatGPT?
Si bien el último producto de DeepSeek, llamado R1, ha sido comparado con ChatGPT de OpenAI—un chatbot de inteligencia artificial generativa diseñado para simular conversaciones humanas—no son exactamente equivalentes.
ChatGPT es un chatbot de uso general, mientras que R1 es un modelo menos versátil optimizado para consultas específicas. Sin embargo, DeepSeek responde de manera similar a los productos de OpenAI, excepto cuando se le preguntan temas censurados.
El dilema de la censura
La censura política ha sido considerada el mayor obstáculo de China en la carrera de la inteligencia artificial. The Financial Times y The Wall Street Journal informaron el año pasado que el principal regulador del país, la Administración del Ciberespacio de China, exige revisiones exhaustivas de los modelos de IA desarrollados en el país, incluyendo pruebas con hasta 70.000 preguntas para asegurar que proporcionen “respuestas seguras”.
Entrenar modelos para que se nieguen a responder preguntas políticamente controversiales o para que interrumpan conversaciones con usuarios persistentes ralentiza el proceso de desarrollo y va en contra de la naturaleza de la IA generativa, que es inherentemente aleatoria e impredecible.
Antecedentes clave:
DeepSeek lanzó su modelo avanzado de razonamiento R1 la semana pasada, asegurando que fue desarrollado con una fracción del costo de los productos de OpenAI y Meta, pero que tenía un desempeño comparable en tareas matemáticas, conocimientos generales y pruebas de preguntas y respuestas.
El interés por el modelo creció durante el fin de semana: para el sábado, la aplicación móvil había sido descargada 1,6 millones de veces, según Bloomberg. Desde entonces, las comparaciones entre DeepSeek y productos de OpenAI como GPT-4 han aumentado.
El lunes, un pánico generalizado en el mercado bursátil de EE.UU. provocó una venta masiva de acciones, impulsada por la idea de que empresas extranjeras podrían replicar la revolución de la IA generativa con menos dinero y tecnología inferior. Sin embargo, esta noción está siendo cuestionada seriamente.
El CEO de Scale AI, Alexandr Wang, dijo a CNBC el jueves (sin evidencia) que DeepSeek construyó su producto utilizando aproximadamente 50.000 chips Nvidia H100 que no puede mencionar públicamente, ya que esto violaría los controles de exportación de EE.UU., que prohíben la venta de estos chips a empresas chinas.
Por su parte, la analista Stacy Rasgon, de Bernstein, calificó las cifras de DeepSeek como “altamente engañosas”, señalando que el estimado de US$5 millones en costos excluía la investigación previa, experimentos, algoritmos, datos y otros costos relacionados con su desarrollo.