x
x

SZO objavljuje smjernice o etici i upravljanju umjetnom inteligencijom

  22.01.2024.

Svjetska zdravstvena organizacija (SZO) objavljuje nove smjernice o etici i upravljanju velikim multimodalnim modelima (LMM) – vrstom brzo rastuće tehnologije generativne umjetne inteligencije (AI) s primjenama u cijeloj zdravstvenoj skrbi.

SZO objavljuje smjernice o etici i upravljanju umjetnom inteligencijom

Smjernice ocrtavaju više od 40 preporuka za razmatranje od strane vlada, tehnoloških tvrtki i pružatelja zdravstvenih usluga kako bi se osigurala odgovarajuća upotreba LMM-a za promicanje i zaštitu zdravlja stanovništva.

LMM-ovi mogu prihvatiti jednu ili više vrsta unosa podataka, kao što su tekst, videozapisi i slike, te generirati različite izlaze koji nisu ograničeni na vrstu unesenih podataka. LMM-ovi su jedinstveni po oponašanju ljudske komunikacije i sposobnosti obavljanja zadataka za koje nisu bili izričito programirani. LMM-ovi su usvojeni brže od bilo koje potrošačke aplikacije u povijesti, s nekoliko platformi – kao što su ChatGPT, Bard i Bert – koje su ušle u svijest javnosti 2023.

Generativne AI tehnologije imaju potencijal poboljšati zdravstvenu skrb, ali samo ako oni koji razvijaju, reguliraju i koriste te tehnologije identificiraju i u potpunosti uzmu u obzir povezane rizike.

Potencijalne koristi i rizici

Nove smjernice SZO-a ocrtavaju pet širokih primjena LMM-a za zdravlje:

  • Dijagnoza i klinička njega, kao što je odgovaranje na pisane upite pacijenata
  • Korištenje prema pacijentu, primjerice za ispitivanje simptoma i liječenje
  • Urednički i administrativni poslovi, kao što je dokumentiranje i sažetak posjeta pacijentima unutar elektroničkih zdravstvenih kartona
  • Medicinsko obrazovanje, uključujući pružanje pripravnicima simulirani kontakt s pacijentima
  • Znanstveno istraživanje i razvoj lijekova, uključujući identificiranje novih spojeva

Iako se LMM-ovi počinju koristiti u specifične svrhe povezane sa zdravljem, postoje i dokumentirani rizici od stvaranja lažnih, netočnih, pristranih ili nepotpunih izjava, što bi moglo naštetiti ljudima koji koriste takve informacije pri donošenju zdravstvenih odluka. Nadalje, LMM-ovi se mogu obučavati na podacima koji su loše kvalitete ili pristrani, bilo po rasi, etničkoj pripadnosti, podrijetlu, spolu, rodnom identitetu ili dobi.

Za stvaranje sigurnih i učinkovitih LMM-ova, SZO naglašava potrebu za angažmanom različitih dionika: vlada, tehnoloških tvrtki, pružatelja zdravstvenih usluga, pacijenata i civilnog društva, u svim fazama razvoja i primjene takvih tehnologija, uključujući njihov nadzor i regulaciju.

Nove smjernice SZO-a uključuju preporuke za vlade, koje imaju primarnu odgovornost za postavljanje standarda za razvoj i primjenu LMM-a te njihovu integraciju i upotrebu u javnozdravstvene i medicinske svrhe.

Novi dokument o etici i upravljanju umjetnom inteligencijom za zdravlje Smjernice o velikim multimodalnim modelima temelje se na smjernicama SZO-a objavljenim u lipnju 2021. Publikaciji se može pristupiti na linku.

VEZANI SADRŽAJ > <