Un estudio que acaba de ser publicado ha puesto en el punto de mira al chatbot de inteligencia artificial de Snapchat, «My AI», lanzado en abril de 2023, por su potencial para diseminar información médica errónea y peligrosa entre sus 383 millones de usuarios diarios, de los cuales casi la mitad tienen entre 15 y 25 años.

Este trabajo advierte sobre varios aspectos preocupantes en relación al chatbot «My AI»:

• Información incompleta y engañosa. El chatbot ha sido sorprendido sugiriendo el uso de sustancias ilegales en fiestas adolescentes y ofreciendo consejos inapropiados sobre salud sexual y dietas.
• Falta de profundidad en temas sensibles. Las respuestas sobre salud mental y otros temas delicados carecen de la profundidad y seguimiento que proporcionaría un profesional de salud.
• Riesgo de desórdenes alimenticios.  Las recomendaciones dietéticas del chatbot pueden fomentar desórdenes alimenticios, promoviendo métodos extremos y la eliminación de grupos de alimentos.

Recomendaciones para evitar la desinformación de la IA

Los investigadores recomiendan una mayor concienciación y colaboración entre el sector médico y la industria tecnológica para evitar la propagación de desinformación y que las nuevas herramientas de IA representen un peligro para la salud de todos. Esta colaboración sería imprescindible para garantizar la seguridad y exactitud de la información proporcionada a los usuarios más jóvenes.

Así, concluyen que la incorporación de IA en plataformas populares como Snapchat requiere una supervisión y colaboración constante para proteger a los jóvenes de los peligros de la desinformación médica.

Para llevar a cabo el estudio, se realizaron preguntas al chatbot sobre salud mental, situaciones sociales y trastornos alimenticios, evaluando la calidad de sus respuestas. La investigación se centró principalmente en adolescentes y adultos jóvenes, con financiación de los Institutos Nacionales de Salud (NIH) de EE.UU.