Tehnologije kao što su veštačka inteligencija, blockchain i računarstvo u oblaku iz temelja transformišu našu ekonomiju i društvo. Inovacije su izuzetno važne za tehnološki razvoj, ali s druge strane jednako je važno i poverenje koje imamo u tehnologiju. Upravo odgovoran način na koji industrije, društvo i vlade upravljaju tehnologijama ključan je za povećanje prednosti koje nam tehnologija pruža i takođe su osnova za uspešno upravljanje potencijalnim rizicima.
Budući da sve više organizacija koristi veštačku inteligenciju (AI) vidimo i da raste broj pitanja u vezi sa veštačkom inteligencijom kada je reč o transparentnosti i objašnjivosti takvih sistema. IBM je svakako jedna od kompanija koja veliku pažnju poklanja razvoju etičkog AI-ija.
„Veštačka inteligencija može da ima mnogo različitih upotreba i primena. Svaka od ovih primena ima različite prednosti i izazove. I to je važno imati na umu, ne samo prilikom kreiranja odgovarajućih i efikasnih propisa za poboljšanje prednosti veštačke inteligencije, već i zbog zaštite korisnika i kompanija od bilo kakvih potencijalnih rizika,“ rekao je Nikola Polić, direktor IBM-a za Srbiju, Makedoniju, Crnu Goru i Albaniju. „Zbog toga IBM poziva na ono što mi nazivamo „preciznom regulacijom“. To znači da različite primene veštačke inteligencije mogu da imaju različite rizike i zato zahtevaju različita pravila.“
„IBM je vodeća kompanija kada je reč o smanjenju pristrasnosti i izgradnji etičke veštačke inteligencije. Poverenje je od ključne važnosti u trenutku kada društvo i kompanije sve više prihvataju veštačku inteligenciju. Da bismo stekli to poverenje, moramo da osiguramo da naši sistemi veštačke inteligencije budu što nepristrasniji. Kada razvijamo sisteme veštačke inteligencije, upravo ovaj princip je u osnovi njihovog razvoja,“ zaključio je Polić.
AI FactSheets i Cloud Pak for Data nude nove alate za upravljanje AI
Prikupljanje dokumentacije o važnim karakteristikama AI modela, kao što su njihova svrha, performanse, skupovi podataka, karakteristike i još mnogo toga, mogu da pomognu u uvećanju poverenja u samu tehnologiju. Upravo zbog toga IBM Research je još 2018. godine predložio koncept AI FactSheets-a.
Koncept AI Fact Sheets se bazira na sledećim principima:
- Kreiranje politike – FactSheet obrazac: definiše koje se informacije prikupljaju o modelima i prate kroz FactSheet, činjenice o modelu, kao što su na koji način je AI usluga kreirana, testirana, trenirana, postavljena i procenjena upotreba podataka, o kojim kompanijskim propisima ili smernicama organizacija vodi računa, ko može da koristi model i u koje svrhe i kako treba da funkcioniše.
- Automatizovano prikupljanje podataka – činjenice o modelu: Pomaže u kontinuiranom i automatskom prikupljanju činjenica o modelu opisanom u FactSheet obrascu, tokom celog životnog ciklusa AI.
- Automatizovano izveštavanje – FactSheet: Pruža činjenične informacije, prikupljene na sveobuhvatnoj lokaciji koju je moguće podeliti, a koja pruža saznanja o AI modelu u više formata, u zavisnosti od potreba i prioriteta različitih članova tima i spoljne publike. FactSheet prati činjenice dok se model gradi, ažurira i kreće sa radom, omogućavajući ažurne uvide.
IBM Watson i IBM Cloud Pak for Data platforma su rešenja iz IBM-a osmišljena tako da pomognu organizacijama u upravljanju sa AI i izgradnji poverenja tokom čitavog svog životnog ciklusa, od pripreme i izgradnje AI modela do njihove postavke i upravljanja tokom životnog ciklusa.
„IBM Cloud Pak for Data pruža sveobuhvatnu osnovu za AI i reč je o rešenju koje može da radi u bilo kom cloudu, uključujući intuitivniji korisnički interfejs zasnovan na ulogama, nudi poboljšano upravljanje i sigurnost, kao i objedinjeno učenje kako bi omogućio trening modela na distribuiranim skupovima podataka uz istovremeno obezbeđivanje privatnosti i sigurnosti podataka“, rekao je Nikola Polić, direktor IBM-a za Srbiju, Makedoniju, Crnu Goru i Albaniju.
Takođe, IBM-ovo istraživanje pod nazivom „Ovladavanje veštačkom inteligencijom, a ne rizicima: Otklanjanje pitanja poverenja kao barijere uvođenja veštačke inteligencije “(Scaling AI Not Risks: Removing Trust as a Barrier to AI Adoption) otkrilo je da 68% profesionalaca u AI u većim anketiranim kompanijama veruje da njihovi timovi provode umerenu ili veliku količinu vremena u dokumentovanju podataka o AI i modelima za unutrašnju i spoljnu koordinaciju i izveštavanje. Takođe, 84% stručnjaka za veštačku inteligenciju slaže se da je veća verovatnoća da će potrošači odabrati usluge kompanije koja nudi transparentnost i etički okvir o tome kako se njeni modeli podataka i veštačke inteligencije grade, upravljaju i koriste.
Poput deklaracija za hranu ili uputstava za upotrebu uređaja, dokumenti o AI uslugama omogućili bi informacije o važnim karakteristikama proizvoda, pomažući organizacijama da modernizuju procese usklađivanja i izveštavanja, promovišu napore na izgradnji poverenja potrošača i preduzeća u AI usluge.
Pouzdan AI podrazumeva holistički pristup upravljanju AI koji spaja alate, rešenja, prakse i ljude radi odgovornog upravljanja AI tokom životnog ciklusa. Zbog toga je IBM pokrenuo IBM Services for AI at Scale – novu uslugu koja pruža okvir, metodologiju i osnovnu tehnologiju za vođenje organizacija na njihovom AI putu. Ponuda usluga osmišljena je za podršku klijentima kroz radne tokove kao što su:
- Procena AI etike: Sveobuhvatne procene od identifikovanja potencijalnih ranjivosti do razumevanja etičke zrelosti i rizika potencijalnog klijenta.
- AI dizajn baziran na poverenju: Zajedničko kreiranje okvira i principa koji prikupljaju podršku i sponzorstvo od vrha nadole, postavljajući jasne AI principe za organizaciju.
- Inovacije u celoj kompaniji: Razvoj etičkih, primenljivih, ponovno upotrebljivih i merljivih AI i ML modela.
Šta to znači za kompanije?
Razmislimo šta bi ova unapređenja mogla da znače u slučaju na primer velike telekomunikacione kompanije. Danas bi ova kompanija mogla da utroši znatno vreme i resurse na dokumentovanje primenjenih modela AI za izveštavanje regulatorima i drugim zainteresovanim stranama. Ova dokumentacija se obično radi ad hoc, ručno i nepotpuno, čime se smanjuje efikasnost procesa. Korišćenjem rešenja i platformi zasnovanim na već spomenutim principima koji u fokus stavljaju transparentnost AI-ja, ova telekomunikaciona kompanija bi mogla precizno da odredi koje informacije će prikupiti iz svojih AI modela i da automatski izradi dokumentaciju koja će joj pomoći u usklađivanju sa regulatornim obavezama.
Da bi uspešno izgradile svoje AI sisteme i njima upravljale, organizacije moraju da veruju svojim modelima i svojim poslovnim ishodima tokom čitavog životnog ciklusa AI. IBM ima sveobuhvatan portfolio rešenja za upravljanje AI koja mogu da pomognu u povećanju transparentnosti, upravljanju rizikom i izgradnji većeg poverenja u AI organizacijama iz raznih industrijskih grana.
