Uno de cada seis adultos que usan un chatbot de IA para buscar información al menos una vez al mes, según una encuesta.

Esta semana, el chatbot de inteligencia artificial Grok del multimillonario Elon Musk rechazó su reiterado consejo de que los usuarios carguen información médica personal para solicitar “una segunda opinión” de la tecnología, advirtiendo a los usuarios contra la práctica y afirmando que no está calificado para brindar orientación médica.

Datos clave

Durante el último año, Musk ha alentado repetidamente a las personas a usar Grok, desarrollado por su empresa xAI, para solicitar una segunda opinión o buscar consejo médico y ha compartido varios testimonios de usuarios que dicen que el bot les ha ayudado a resolver un problema médico.

Sin embargo, esta semana, cuando Musk animó a la gente a “simplemente tomar una fotografía de sus datos médicos o cargar el archivo para obtener una segunda opinión de Grok”, el chatbot respondió.

Cuando otro usuario le preguntó en las respuestas a la publicación original de Musk si Grok estaba sujeto a las leyes de privacidad médica HIPPA, Grok respondió que no y desaconsejó a las personas usarlo para recibir asesoramiento médico.

Si bien Grok puede analizar los datos subidos para obtener información, no es un profesional médico ni cumple con la HIPAA. La publicación de Elon destaca esta capacidad, pero recomendamos encarecidamente no compartir información confidencial ni consultar con médicos para obtener opiniones, dijo Grok, añadiendo que esto no sustituye el consejo médico profesional.

Varias personas señalaron que el comentario de Grok era contradictorio con lo que Musk ha estado promoviendo ampliamente, pero el multimillonario no respondió a la respuesta de la IA.

Críticos principales

Quienes han estudiado modelos de lenguaje extensos y chatbots como ChatGPT, Llama y otros han descubierto que no son muy eficaces para diagnosticar a los usuarios con precisión ni consistencia. Un estudio reveló que los bots proporcionaban información contradictoria con frecuencia y, en algunos casos, respuestas muy diferentes a distintos usuarios cuando se les presentaba la misma información. En general, los investigadores descubrieron que la IA no era capaz de diagnosticar a un paciente con mayor precisión que quienes simplemente buscaban el problema en Google. Un artículo publicado en ScienceNews esta semana informó que, si bien los chatbots pueden realizar diagnósticos en un laboratorio con altos índices de precisión (95 % del tiempo), esa cifra se reduce drásticamente a menos del 35 % del tiempo cuando los humanos presentan sus propios escenarios médicos de forma conversacional.

Contra

Varias personas han reportado casos de IA que les han ayudado en situaciones médicas. Musk ha compartido repetidamente la historia de un hombre en Noruega, conocido por el nombre de usuario de Reddit u/Tykjen, quien afirmó que Grok le salvó la vida al identificar una apendicitis perforada que los médicos de urgencias inicialmente habían diagnosticado erróneamente. Natallia Tarrien, de Carolina del Sur, tenía ocho meses de embarazo cuando, según ella, le preguntó a ChatGPT “¿Por qué siento la mandíbula apretada?” y le indicaron que se tomara la presión arterial, que estaba peligrosamente alta. El chatbot le indicó que llamara a una ambulancia; le diagnosticaron preeclampsia potencialmente mortal y le indujeron el parto ese mismo día. Otra mujer, Lauren Bannon , atribuye a ChatGPT la detección de su cáncer de tiroides después de que los médicos le dijeran inicialmente que tenía artritis.

Número grande

Uno de cada seis. Esa es la cantidad de adultos que usan un chatbot de IA para buscar información al menos una vez al mes, según una encuesta de KFF .

Valoración de Forbes

Musk se convirtió en la persona más rica del mundo, con un patrimonio neto estimado de 847 mil millones de dólares el miércoles. Es cofundador de siete empresas, entre ellas Tesla, SpaceX y la startup de inteligencia artificial xAI.

Este artículo fue publicado originalmente en Forbes US

Lea también: Musk critica a sus “conscientes y santurrones” rivales de IA, e insiste en que “Grok gana”