Jak nauczyć AI odróżniania wilków od psów husky? Proste. Wystarczy dostarczyć jej tysiące zdjęć przedstawiających obydwa gatunki zwierząt. Każdą fotografię trzeba opatrzyć etykietą gatunkową, a algorytm poradzi sobie z resztą. Prawda? Sprawdźmy.

Rzeczywiście, pokazujemy mu zdjęcie numer 1, numer 2, numer 1000. Odpowiada poprawnie – prawidłowo rozpoznaje wilka oraz psa. Ale później przychodzi zima. Nasz husky bawi się beztrosko na śniegu, robimy mu zdjęcie i prosimy, by algorytm raz jeszcze rozpoznał, z jakim zwierzęciem mamy do czynienia. Jednak sztuczna inteligencja popełnia błąd. Oznacza naszego pupila jako wilka. Co się stało? Pies nam zdziczał? Przesyłamy jeszcze jedną fotografię, potem następną. I kolejną. Raz za razem pojawia się niepoprawny wynik. Dlaczego?

Ponieważ, jak dowiedli badacze z University of Washington, zdjęcia wilków, które na etapie nauki dostarczano algorytmowi, przedstawiały te zwierzęta na śnieżnym tle. Natomiast prezentowane fotografie psów były wykonywane w miejskich, bezśnieżnych warunkach. Dlatego maszyna nauczyła się rozróżniać oba gatunki na podstawie tła, a nie na bazie cech samych zwierząt.

Tym razem udało się ustalić, z czego wynika błąd, a także – w jaki sposób dokładnie uczyła się maszyna podająca nieprawidłowe odpowiedzi. Czy jednak zawsze uda się nam prześledzić i zrozumieć te procesy? Co, jeśli zadanie AI nie będzie polegało na odróżnieniu zwierząt, lecz na wykryciu patologii zdrowotnych? Na te pytania próbuję odpowiedzieć podczas wywiadu z dr. Leo Anthonym Celim – lekarzem i naukowcem z MIT specjalizującym się w fizjologii obliczeniowej.

Jego zespół wykrył niedawno, że system AI, który rzekomo diagnozował osoby w spektrum autyzmu na podstawie wyglądu ich oczu, popełniał te same błędy, co algorytm odróżniający psy od wilków. Już wcześniej ci uczeni wykazali, jak zawodne mogą być szpitalne systemy ostrzegania przed sepsą bazujące na AI . A także – jak pochopnie są dopuszczane do naszych danych zdrowotnych urządzenia typu wellness, takie jak smartwatche ze sztuczną inteligencją mającą wykryć migotanie przedsionków.

Mój rozmówca zwraca też uwagę, że kiedy oczy wielu z nas były zwrócone w stronę nowego produktu OpenAI, czyli Chatu GPT Health mającego służyć m.in. do konsultowania danych medycznych, firma Doctronic wykonała „po cichu” krok znacznie większy i bardziej dla nas niebezpieczny. Jaki? Przeczytaj na Obiektyw.org.pl.

Kontroluj polityków!

Patrz władzy na ręce i wspieraj niezależność.

Wpłacam