Američki Senat razmatra predlog zakona koji bi mogao drastično promeniti način korišćenja AI četbotova i digitalnih asistenata. Predlog pod nazivom GUARD Act predviđa obaveznu proveru identiteta i starosti korisnika, a kritičari upozoravaju da bi to u praksi moglo značiti skeniranje lica, dostavljanje ličnih dokumenata i korišćenje biometrijskih podataka za pristup AI servisima.
Zakon je već jednoglasno prošao pravni komitet Senata SAD i sada čeka dalje procedure. Formalni cilj inicijative jeste zaštita maloletnika od opasnih interakcija sa AI četbotovima, uključujući seksualni sadržaj, podsticanje na samopovređivanje, nasilje ili manipulativnu komunikaciju.
Međutim, pažnju javnosti privukla je upravo činjenica da se provera ne bi odnosila samo na maloletnike, već praktično na sve korisnike AI platformi.
Prema predlogu zakona, više ne bi bila dovoljna klasična potvrda poput opcije „Imam više od 18 godina“. Kompanije bi morale da uvedu „razuman proces verifikacije starosti“, pri čemu zakon eksplicitno navodi državne identifikacione dokumente kao jedan od mogućih načina potvrde identiteta.
Iako u tekstu zakona nije direktno navedeno obavezno skeniranje lica, stručnjaci upozoravaju da bi upravo biometrijska identifikacija mogla postati standardni metod verifikacije. Pored toga, kao potencijalni alati za proveru pominju se finansijski podaci i eksterni servisi za digitalni identitet.
Predlog dodatno zabranjuje oslanjanje na IP adresu, uređaj ili druge tehničke indikatore kao dovoljan dokaz punoletstva.
Definicija AI četbota u zakonu postavljena je veoma široko. Regulativa ne bi obuhvatila samo AI „saputnike“ i chatbot aplikacije, već potencijalno i edukativne AI asistente, AI funkcije unutar pretraživača i deo automatizovane korisničke podrške.
Posebna ograničenja odnose se na AI sisteme koji simuliraju emocionalne odnose, prijateljstvo ili terapijsku komunikaciju. Ukoliko sistem utvrdi da je korisnik mlađi od 18 godina, pristup takvim servisima morao bi biti blokiran.
Zakon predviđa i dodatne obaveze za kompanije. AI četbotovi morali bi jasno da obaveste korisnika da razgovara sa veštačkom inteligencijom na početku komunikacije, ali i periodično tokom razgovora.
Kompanijama koje prekrše pravila prete ozbiljne kazne — do 100.000 dolara po slučaju, posebno ukoliko AI sistem generiše neprimeren sadržaj za maloletnike ili podstiče opasno ponašanje.
Kritičari upozoravaju da bi ovakav model mogao otvoriti vrata široj digitalnoj identifikaciji korisnika interneta i stvoriti nove bezbednosne rizike zbog čuvanja osetljivih podataka poput ličnih dokumenata i biometrije.
Dodatni problem predstavlja i potencijalni pritisak na manje AI kompanije i startape, kojima bi implementacija sistema za proveru identiteta mogla predstavljati veliki finansijski i tehnički izazov.
Iako GUARD Act još nije usvojen, ukoliko dobije konačno odobrenje, nova pravila mogla bi stupiti na snagu već šest meseci nakon usvajanja zakona.
