Ważne ostrzeżenie dla grzybiarzy. Jeden błąd może skończyć się tragedią

Sztuczna inteligencja nie nadaje się do wszystkiego - delikatnie mówiąc

Duże modele językowe, jak ChatGPT, Microsoft Copilot czy Google Gemini nie powinny być wykorzystywane w zastosowaniach związanych ze zdrowiem - takie zastrzeżenie pochodzi nawet od ich producentów. Sztuczna inteligencja jest niezwykle zawodna w tych scenariuszach wykorzystania, w których przetworzona została relatywnie niewielka ilość danych bądź dane były niskiej jakości. W kwestiach zdrowotnych tzw. halucynacje LLM-ów mogą być opłakane w skutkach.

Niestety także obszary niezwiązane bezpośrednio ze zdrowiem i życiem mogą w połączeniu ze współczesnym podejściem do sztucznej inteligencji poprowadzić do katastrofy. Donosi o tym zespół 404 media, który w sezonie na zbieranie grzybów dostrzegł bardzo niebezpieczny problem - grzybiarze mogą wykorzystywać do identyfikacji swoich znalezisk efekty pracy sztucznej inteligencji, co w skrajnych przypadkach może skończyć się zatruciem ze skutkiem śmiertelnym .

Fikcyjne grzyby wygenerowane przez SI zalały wyszukiwarkę Google

Popularyzacja generatywnej sztucznej inteligencji poskutkowała zalaniem internetu, także wyszukiwarki Google , ogromem obrazków udających zdjęcia, które mogą przedstawiać nieistniejące obiekty . O ile przed dwoma laty można było bez problemu je odróżnić od prawdziwych fotografii, to kolejne generacje m.in. SI Midjourney tworzą fałszywe zdjęcia z takim pietyzmem, że jednoznaczna weryfikacja autentyczności przez przeciętnego internautę jest już w zasadzie niemożliwa.

Na subreddicie poświęconym mykologii pojawiły się doniesienia, że próby wyszukania w Google grzyba z gatunku Coprinus comatus znanego w Polsce jako czernidłak kołpakowaty, skutkują przedstawieniem wygenerowanego przez sztuczną inteligencję fikcyjnego grzyba . Co gorsza, wynik ten pojawia się w widoku mobilnym ponad innymi. W rezultacie osoba, która właśnie jest na grzybach i za pośrednictwem smartfonu chce zweryfikować swoją wiedzę, może być wprowadzona w fatalny w skutkach błąd.

Rzeczony przypadek dotyczył zdjęcia pochodzącego z repozytorium Freepik, gdzie oznaczone było jako wygenerowane przez sztuczną inteligencję, ale też jako Coprinus comatus. Żeby dowiedzieć się o tym, że nie mamy do czynienia z prawdziwą fotografią, trzeba było jednak przejść do strony źródłowej - w wynikach wyszukiwarki Google taka informacja nie padła.

Nie należy korzystać z Google na grzybobraniu - są lepsze metody weryfikacji

Moderator społeczności mykologów na Reddicie potwierdził, że nie jest to odosobniony przypadek, lecz reguła. Z jakichś powodów zdjęcia wygenerowane przez sztuczną inteligencję mają bardzo wysoką pozycję w wynikach Google, mimo że pierwotnie zostały oznaczone jako fałszywe. O tym, że wygenerowane przez SI “zdjęcia” grzybów mogą być dużym zagrożeniem przekonuje także Elan Trybuch ze Stowarzyszenia Mykologicznego Nowego Jorku:

Wiele osób nie tylko uczy się wizualnie, ale także dzięki szybkości rozpowszechniania informacji ludzie bardziej polegają na natychmiastowej informacji zwrotnej, a nic nie robi tego lepiej niż zdjęcie referencyjne. Problem polega na tym, że wiele z tych zdjęć wygląda “wystarczająco” podobnie do prawdziwej rzeczy. Chociaż może to mieć druzgocące konsekwencje, myślę, że w większości przypadków po prostu wprowadzi zamieszanie: co jest prawdziwe?

Rozwiązaniem problemu może być oznaczanie obrazków wygenerowanych przez sztuczną inteligencję, co Google deklarowało, ale dotąd w tym zawodzi. Jest to zaskoczenie tym większe, że przecież odpowiedni tag widniał na stronie źródłowej, z której Google zaczerpnęło obrazek do wyników. Gdy zawodzi big tech, ostrożność muszą zachować sami grzybiarze - lepiej niż na Google polegać w tym przypadku na aplikacjach mobilnych uznanych wydawców lub na kieszonkowych leksykonach.