67-годишен фермер от Китай се доверил на чатбот за избора на препарати срещу плевели и вредители. Резултатът – около 10 хектара сусамови посеви са унищожени за едно денонощие
Изкуственият интелект вече може да помага на земеделците при планиране на сеитбата, торене, растителна защита и много други дейности. Но един случай от Китай показва колко скъпо може да струва сляпото доверие към машина, когато става дума за реално поле и препарати за растителна защита.
67-годишен земеделец от Чучжоу, провинция Анхуей, е загубил цял посев със сусам, след като изпълнил генерирана от изкуствен интелект схема за борба с плевели и вредители. Става дума за около 150 китайски му, което се равнява на приблизително 100 декара. Китайските медии съобщават, че след третирането растенията започнали да загиват, а на следващия ден посевът практически бил унищожен.
От „ще проверя“ до „питам изкуствения интелект за всичко“
Фермерът, представен в китайските публикации с фамилията У, използвал приложение с изкуствен интелект повече от година.
В началото той бил предпазлив. Постепенно обаче започнал да получава отговори, които според него били полезни и съвпадали с практиката му. Така доверието се увеличило.
„Питам изкуствения интелект за всичко“, обяснил земеделецът, като посочил, че е използвал системата за въпроси за торене, срокове за третиране и други земеделски дейности. Именно натрупаните положителни впечатления го накарали постепенно да спре да проверява получената информация от агрономи и други източници.
На 10 юли той първоначално попитал изкуствения интелект как да контролира плевелите в оризово поле, след което задал въпрос за борбата с плевелите и вредителите при сусама.
След допълнително уточнение, че иска да използва безпилотен летателен апарат за пръскането, системата генерирала цялостна схема за третиране на големия сусамов блок.
Четири препарата в една схема
Според публикуваните в Китай данни изкуственият интелект препоръчал два хербицида както и два инсектицида съвместно.
Проблемът се оказал именно при избора на хербицида фомесафен.
Фомесафенът е хербицид, използван за контрол на широколистни плевели и е регистриран за определени култури, включително соя. Китайски агротехнически специалисти и търговци на препарати посочват, че той не трябва да се използва за цялостно третиране на сусамов посев, тъй като самият сусам е широколистна култура и може да бъде сериозно повреден.
Точно това се случило.
„На следващия ден разсадът вече не беше добре. Плевелите и разсадът умряха заедно, а разсадът умря още по-бързо“, разказал фермерът пред китайските медии.
Най-абсурдното: изкуственият интелект обяснил грешката след поражението
След като видял унищожения посев, фермерът отново се обърнал към същия изкуствен интелект и попитал защо растенията са загинали.
Тогава системата посочила именно фомесафена като причината за пораженията.
Така се стигнало до парадоксалната ситуация изкуственият интелект първо да предложи препарата, а след като той унищожи растенията, да обясни защо препаратът е бил неподходящ.
Има и още един детайл, който прави случая особено показателен. На страницата на приложението е имало предупреждение, че генерираната от изкуствения интелект информация може да бъде неточна и трябва да бъде проверявана. Фермерът обаче не обърнал внимание на предупреждението.
Това не е просто история за „грешен отговор“
Случаят показва един от най-големите проблеми при използването на изкуствения интелект в земеделието.
Един чатбот може да даде убедително звучащ отговор, без реално да разбира конкретното поле, фазата на развитие на културата, почвата, времето, сорта, предходното третиране или регистрацията на даден препарат за конкретната култура.
Още по-опасно е, когато няколко отделни препоръки изглеждат логични, но комбинацията между тях е неправилна.
При растителната защита това вече не е обикновена информационна грешка. Една неправилна препоръка може да унищожи реколта за часове.
Китай вече говори за специализиран земеделски изкуствен интелект
Случаят предизвика дискусия и на институционално ниво в Китай.
В коментар на „Женмин жибао“ се посочва, че земеделският изкуствен интелект не трябва просто да генерира общи отговори, а да използва специализирани бази данни, официални стандарти, резултати от полски изпитвания и професионални агрономически знания.
Според китайските експерти общите езикови модели работят основно чрез анализ на огромни масиви от информация и генериране на вероятен отговор. Това може да е достатъчно за много ежедневни задачи, но при земеделието границата на грешката е много по-тясна.
Особено когато става дума за препарати за растителна защита, дози и смесване на продукти.
Има и научно предупреждение за сусама
Интересното е, че проблемът не е само теоретичен.
Научно изследване, публикувано в списание „Crop Protection“, е оценявало реакцията на сусама към различни хербициди. При третирания с флуфенацет са отчетени сериозни проблеми с поникването на сусама и при определени условия – малко или никакъв добив.
Тук трябва да се направи важно разграничение: флуфенацетът не е препаратът, посочен от китайските източници като причина за конкретния инцидент. В конкретния случай китайските публикации посочват фомесафен. Данните за флуфенацет са отделен научен пример, който показва колко внимателно трябва да се подхожда към избора на хербицид при сусам.
Какъв е урокът за българския фермер?
Изкуственият интелект може да бъде много полезен инструмент за земеделието. Но той трябва да бъде помощник, а не агрономът, който взема окончателното решение.
При растителната защита правилото трябва да е твърдо:
Нито един препарат не трябва да се купува, смесва или прилага само защото чатбот го е препоръчал.
Преди третиране трябва да се проверят поне:
– регистрирана ли е употребата на препарата за конкретната култура;
– срещу какъв вредител или плевел е предназначен;
– разрешена ли е конкретната доза;
– подходяща ли е фазата на развитие на културата;
– може ли препаратът да се смесва с останалите продукти;
– какви са ограниченията за начина на приложение;
– какви са метеорологичните условия;
– какво пише на официалния етикет на продукта.
И още нещо, което старите агрономи отдавна знаят: първо се пробва на малка площ, после се пръска целият блок.
Точно тази стара земеделска предпазливост в случая е можела да спаси 100 декара сусам.
Изкуственият интелект няма да замени човека на полето
Случаят от Анхуей не доказва, че изкуственият интелект е безполезен за земеделието.
Доказва нещо по-важно – че когато една технология започне да дава убедителни отговори, човек лесно започва да ѝ се доверява повече, отколкото трябва.
В случая фермерът не е започнал да използва изкуствения интелект, защото не разбира от земеделие. Напротив – първоначално той е сравнявал отговорите с опита си. Проблемът дошъл, когато натрупаните добри резултати постепенно превърнали предпазливостта в пълно доверие.
А земеделието има едно старо правило, което и най-умният чатбот не може да отмени:
Когато става дума за цяла реколта, един отговор никога не е достатъчен.
Технологията може да предложи решение. Последната дума обаче трябва да остане на човека, който познава полето и носи отговорността за него.
