O aplicație de identificare a ciupercilor, “cu potențial morți”, evidențiază pericolele de AI rău

Există o vorbă în comunitatea de colectare a ciupercilor că toate ciupercile sunt comestibile, dar unele ciuperci sunt numai comestibile o singura data .
De aceea, când știrile s-au difuzat pe Twitter de o aplicație care folosea “AI revoluționar” pentru a identifica ciupercile cu o singură imagine, micologii și ciupercile-foragerii erau îngrijorați. Ei l-au numit “potențial mortal” și au spus că, dacă oamenii o foloseau pentru a încerca să identifice ciupercile comestibile, s-ar putea să fie foarte bolnavi sau chiar morți.
O parte a problemei, explică Colin Davidson, un forger de ciuperci cu un doctorat în microbiologie, este că nu poți identifica o ciupercă doar dacă te uiți la ea. “Cea mai frecventă ciupercă din apropierea mea este ceva numit galben galben”, a declarat el pentru The Verge , “Și seamănă exact cu un ciupercă comestibilă de cal de sus și de pe partea laterală”. Dar dacă mănânci un galben galben există șansa să fii bolnav violent sau chiar spitalizat. “Trebuie să-l ridicați și să-l zgâriați sau să miroșiți să spună ceea ce este”, explică Davidson. “Se va zdrobi galben stralucitor sau se va mirosi carbolic”.

Aceasta este probabil aplicația cea mai potențial moartă pe care am văzut-o vreodată pic.twitter.com/IrjuLSC6fZ – Grant Williamson (@ozjimbob) 24 iulie 2017

Și acesta este doar un exemplu. Există o mulțime de ciuperci comestibile cu lookalici toxici, iar atunci când le identificați trebuie să studiezi unghiuri multiple pentru a găsi caracteristici precum ghilimele și inelele, luând în considerare lucruri cum ar fi dacă precipitațiile recente ar putea să decoloreze capacul sau nu. Davidson adaugă că există o mulțime de ciuperci care trăiesc până la numele lor, ca îngerul distrugător sau capacul morții.
“Dar atunci organele voastre vor începe să eșueze”.
“O opt dintr-un plafon de moarte te poate ucide”, spune el. “Dar cel mai rău este că, te vei simți rău pentru o vreme, atunci ai putea să te simți mai bine și să mergi mai departe cu ziua ta, dar apoi Organele voastre vor începe să eșueze. E chiar oribil.
Aplicația în cauză a fost dezvoltată de designerul Silicon Valley, Nicholas Sheriff, care spune că a fost vreodată intenționat să fie folosit ca un ghid dur pentru ciuperci. Cand The Verge A ajuns la șerif să-l întrebe despre siguranța aplicației și cum funcționează, a spus că aplicația nu a fost construită pentru “vânători de ciuperci, era pentru mamele din curtea lor încercând să identifice ciupercile”. Sheriff a adăugat că el se află în prezent în pivotare App într-o platformă pentru bucătari să cumpere și să vândă trufe.
Când am încercat software-ul numai în iOS în această dimineață, am constatat că Sheriff și-a schimbat imaginea de previzualizare în App Store pentru a spune “identifica trufe instant cu doar o picătură”. Cu toate acestea, numele aplicației rămâne “Mushroom – Identificarea “, iar descrierea conține aceeași pretenție care îl îngrijorează atât pe Davidson, cât și pe alții:” Pur și simplu îndreptați-vă telefonul către orice ciupercă și prindeți un pic, AI revoluționar va identifica instant ciuperci, flori și chiar și păsări “.

Nu am putut obține aplicația pentru a identifica o ciupercă comună de castane în bună iluminare. Image credit: James Vincent / The Verge

În testele proprii, însă, aplicația nu a putut identifica ciupercile comune sau ciupercile de castane și sa prăbușit în mod repetat. Plăci de bază de asemenea A încercat aplicația Și a constatat că nu putea identifica o ciupercă Shiitake. Sheriff spune că intenționează să adauge mai multe date pentru a îmbunătăți precizia aplicației și le spune The Verge Că intenția sa nu a fost niciodată să încerce și să înlocuiască experții, ci să-și completeze expertiza.
Afirmațiile despre “AI revoluționar” pot fi periculoase
Și, desigur, dacă căutați în magazinele de aplicații iOS sau Android, veți găsi o mulțime de aplicații de identificare a ciupercilor, dintre care majoritatea sunt cataloage de imagini și text. Ce este diferit în legătură cu aceasta, este că pretind că utilizează viziunea mașinilor și “AI revoluționară” pentru a-și da rezultatele – termeni care par a fi ales în mod special pentru a oferi oamenilor un fals sentiment de încredere. Dacă vindeți o aplicație pentru a identifica florile, atunci acest tip de limbă este pur și simplu disimulator; Când ciupercile pe care le observi, devine potențial periculos.
După cum spune Davidson: “Sunt absolut entuziasmat de ideea. Mi-ar plăcea să pot intra într-un câmp și să-mi îndrept telefonul la o ciupercă și să aflu ce este. Dar aș vrea destul de convingător că va fi capabil să lucreze. “Până acum, nu suntem convinși.

Comments are closed