A pesar de que los expertos en distintas oportunidades han advertido sobre el uso de ChatGPT, hay algunas personas que siguen confiando a ojos cerrados sobre sus capacidades. Por esa razón, un grupo de investigadores de la Facultad de Medicina de la Universidad de Maryland realizaron un estudio para comprobar que a veces el chatbot impulsado por inteligencia artificial (IA) inventa datos de salud con respecto al cáncer.
El estudio se hizo de la siguiente manera: le pidieron a la aplicación que respondiera 25 preguntas sobre "cómo hacerse la prueba de detección del cáncer de mama". Para recibir todas las combinaciones de respuestas posible, realizaron tres veces cada pregunta por separado. Los resultados, en tanto, fueron analizados por tres radiólogos especialistas en mamografías.
De esta manera, concluyeron que el 88% de las respuestas fueron apropiadas, mientras que el resto, eran textos inexactos e inventados por la máquina, información obsoleta o, en algunos casos, eran citas de artículos de revistas falsos.
"Hemos visto en nuestra experiencia que ChatGPT a veces inventa artículos de revistas falsos o consorcios de salud para respaldar sus afirmaciones. Los consumidores deben ser conscientes de que se trata de tecnologías nuevas y no probadas, y aún deben confiar en su médico, en lugar de ChatGPT, para recibir asesoramiento”, declaró Dr. Paul Yi, coautor del estudio.
Una de las respuestas que Daily Mail tomó como ejemplo para explicar el estudio fue que ChatGPT aconsejó el retraso de una mamografía de cuatro a seis semanas después des ser inoculada contra el Covid-19. No obstante, hace más de un año que esta indicación ya no existe, de hecho, ni siquiera deben esperar.