Una IA arruinó la cosecha de un agricultor: 10 hectáreas destruidas

El señor Wu, un agricultor de 67 años de Chuzhou (China), lo perdió todo en una noche. Llevaba aproximadamente un año usando una aplicación de inteligencia artificial para gestionar su campo de sésamo y, en general, le había ido bien. Tanto que dejó de cuestionar sus respuestas. Cuando las malas hierbas y las plagas comenzaron a amenazar su cosecha, le pidió ayuda a la IA para eliminarlas. Preparó la mezcla que le indicó, la cargó en su dron agrícola y la pulverizó sobre toda la plantación. A la mañana siguiente, las plantas de sésamo estaban muertas.

¿Qué salió mal?

La IA recomendó una combinación de pesticidas y herbicidas que incluía flufenacet, un herbicida pensado para controlar la maleza en campos de soja, no de sésamo. El producto mató todo sin distinción: las malas hierbas y las plántulas de sésamo al mismo tiempo, y estas últimas aún más rápido. Las pérdidas económicas se cifran en 22.000 dólares. Cuando Wu le preguntó después a la misma IA, esta reconoció que ese producto había sido el problema.

El peligro de la confianza ciega

Wu había empezado a usar la IA con escepticismo, pero los buenos resultados iniciales le fueron ganando la confianza. Al final, aceptaba sus respuestas sin verificarlas. Este fenómeno —dar por buena la información de la IA porque responde con seguridad y confianza— es un patrón que los investigadores ya han identificado en estudios recientes.

La empresa proveedora de la aplicación, cuya identidad no ha trascendido, explicó que el sistema no tiene una base de conocimiento propia: genera respuestas tomando información de otras fuentes. No ofreció ninguna compensación al agricultor. Wu, por su parte, reconoció no haber leído el aviso de la app que advertía de que la IA puede cometer errores, algo que, como ocurre con los avisos de cookies, ha pasado a ser parte del paisaje que nadie lee.

Lo más importante

1. Hecho principal: Un agricultor chino perdió 10 hectáreas de sésamo y 22.000 $ al aplicar un plan de fumigación generado por IA sin consultar a un experto.
2. Impacto relevante: La IA recomendó un herbicida (flufenacet) diseñado para soja que destruyó también las plantas de sésamo.
3. A quién afecta: A cualquier persona —especialmente en sectores como la agricultura— que use la IA como fuente única de decisiones sin verificación humana.
4. Qué lo diferencia: Las pérdidas son reales y cuantificables: no se trata de un error menor, sino de la ruina de una cosecha entera en pocas horas.
5. Qué vigilar: El crecimiento del uso de IA en agricultura sin protocolos de verificación por parte de técnicos especializados.

Fuente original: Ver noticia completa →