Ismael Garcia Delgado
Editor JrComunicólogo y Periodista por la UNAM. Redactor, locutor, guionista y creador de contenido. Apasionado por la música ochentera, el cine de acción/sci-fi, series dramáticas y la literatura hispana. Fiel defensor del séptimo arte mexicano.
La inteligencia artificial se ha convertido en una herramienta sumamente práctica para resolver dudas cotidianas, pero también nos ha dejado claro que confiar a ciegas en sus respuestas es un error peligroso. Incluso, en el peor de los escenarios, puede echar a perder por completo toda una cosecha. Eso fue exactamente lo que le ocurrió al señor Wu, un agricultor de 67 años originario de China.
La receta del desastre. De acuerdo con El Confidencial, Wu llevaba cerca de un año utilizando un chatbot con IA. Aunque en un principio dudaba de su utilidad, el buen desempeño de la herramienta a lo largo de los meses terminó por ganarse toda su confianza. Ante la aparición de plagas y maleza en su sembradío de ajonjolí, decidió pedirle una fórmula para eliminarlas.
Siguió las instrucciones al pie de la letra. Preparó la mezcla química sugerida, la cargó en su dron agrícola y fumigó sus 10 hectáreas de terreno. A la mañana siguiente, el panorama era desolador: el herbicida había acabado con la maleza, pero también con todas y cada una de sus plántulas de sésamo. Las pérdidas ascienden a unos 22,000 dólares, según detalló International Business Times.
Un reconocimiento tardío. La IA le había propuesto una combinación de pesticidas y herbicidas que prometían atacar exclusivamente la vegetación invasora. La realidad fue muy distinta: "la maleza y las plántulas murieron al mismo tiempo, y las plántulas de sésamo murieron aún más rápido", relató el agricultor.
El fallo radicó en que la fórmula incluía flufenacet, un compuesto diseñado para el control de maleza en cultivos de soya, pero letal para el sésamo. Cuando Wu volvió a ingresar al chat para reclamarle por el resultado, el modelo respondió sin reparos: admitió que, en efecto, ese producto no era apto para su tipo de cultivo.
El exceso de confianza ante la IA. El caso de Wu ilustra un patrón común: tras un año de respuestas acertadas, bajó la guardia y dejó de verificar la información con expertos o agrónomos locales. Se trata de un comportamiento que ya ha sido documentado en diversos estudios: la seguridad y el tono convincente con el que responden estos modelos provocan que los usuarios les otorguen una autoridad incuestionable.
Las letras pequeñas que nadie lee. Prácticamente cualquier chatbot actual incluye advertencias sobre la posibilidad de generar información incorrecta. Sin embargo, estos avisos se han vuelto tan cotidianos y desapercibidos como los mensajes de aceptación de cookies en la web, y el propio agricultor confesó que nunca les prestó atención.
Por su parte, la empresa responsable del servicio de IA —cuya identidad no fue revelada— aclaró que su modelo no cuenta con una base de conocimientos propia ni certificada, sino que recopila y sintetiza información pública de internet, lo que descartó cualquier compensación económica por los daños.
Imagen | Unsplash
En Xataka México | Puso una "trampa invisible" en su examen y descubrió que casi todos los alumnos usaron IA. Terminaron reprobados
En Xataka México | Creó una IA para WhatsApp que ayuda a vendedores ambulantes y ahora OpenAI la quiere en uno de sus programas más exclusivos
Ver 0 comentarios