Răspunsurile generate de inteligența articifială folosită de Google privind analizele de sânge conțineau informații inexacte și false, arată o anchetăThe Guardian. Compania a decis să elimine unele rezumate generate de IA.
Investigația jurnaliștilor britanici a arătat că oamenii erau puși în pericol din cauza informațiilor false și înșelătoare generate la căutările utilizatorilor.
Google a eliminat unele dintre rezumatele sale generate de inteligența artificială din domeniul sănătății. Compania a susținut că rezumatele care utilizează AI generativ pentru a furniza rezultate instantanee cu informații esențiale despre un subiect sau o întrebare, sunt „utile” și „fiabile”.
Însă unele dintre rezumate, care apar în partea de sus a rezultatelor căutării, conțineau informații neadevărate.
„Periculos” și „alarmant”
Experții au constatat un caz, pe care l-au descris ca fiind „periculos” și „alarmant”, în care Google a furnizat informații false despre teste cruciale ale funcției hepatice, care ar putea determina persoanele cu boli hepatice grave să creadă în mod greșit că sunt sănătoase.
The Guardian a descoperit că o căutare care conținea termenii „care este intervalul normal pentru testele de sânge hepatice” a generat o mulțime de cifre, fără prea mult context și fără a ține cont de naționalitatea, sexul, etnia sau vârsta pacienților.
Experții spun că ceea ce AI Overviews de la Google considera normal poate fi, de fapt, la 180 de grade față de ceea ce este considerat normal în realitate.
Rezumatele puteau determina pacienții grav bolnavi să creadă în mod eronat că au rezultate normale la teste și să nu se mai prezinte la consultările medicale de control…https://hotnews.ro/atentie-la-ce-cautati-pe-google-diagnostice-false-si-cum-a-pus-inteligenta-artificiala-in-pericol-viata-pacientilor-2147710