Parlament Europejski zatwierdził właśnie swoje wspólne stanowisko negocjacyjne wobec Aktu o sztucznej inteligencji (AI Act)! Akt przegłosowano dużą większością głosów – 499 parlamentarzystów głosowało za, przeciw było 28, a wstrzymało się 93. Podczas prac komisji parlamentarnych rozszerzono listę zakazanych praktyk z użyciem AI wobec wcześniej proponowanych projektów, w szczególności, o:
- całkowity zakaz systemów zdalnej identyfikacji biometrycznej „w czasie rzeczywistym” oraz „po” w publicznie dostępnych przestrzeniach (bez żadnych wyjątków proponowanych w pierwotnym projekcie KE);
- systemy rozpoznawania emocji wykorzystywane do celów egzekwowania prawa, zarządzania granicami, a także w miejscach pracy i instytucjach edukacyjnych;
- predykcyjne systemy policyjne (oparte na profilowaniu, lokalizacji lub wcześniejszych zachowaniach przestępczych).
Do ostatniego momentu nie było jednak wiadomo, jaki będzie wynik głosowania. W ostatnich dniach centroprawicowa grupa EPP zapowiedziała zgłoszenie poprawek dotyczących systemów identyfikacji biometrycznej. Zaproponowali dwa odstępstwa od całkowitego zakazu w czasie rzeczywistym w wyjątkowych okolicznościach, takich jak ataki terrorystyczne lub poszukiwania osób zaginionych. Ta podjęta w ostatniej chwili próba ostatecznie zakończyła się niepowodzeniem. Rozporządzenie zostało przyjęte w takim kształcie, jaki ustalono w trakcie prac komisji parlamentarnych.
Projekt PE obejmował też propozycje regulacji dotyczące generatywnej sztucznej inteligencji, takiej jak ChatGPT, której popularność jest niezwykle widoczna w ostatnim czasie. Parlamentarzyści przegłosowali następujące obowiązki:
- cykliczna ocena ryzyka i ograniczenie potencjalnych zagrożeń (dla zdrowia, bezpieczeństwa, praw podstawowych, środowiska, demokracji i praworządności);
- rejestracja modeli w bazie danych UE przed ich wprowadzeniem na rynek UE;
- wymogi przejrzystości (ujawniając, że treści zostały wygenerowane przez AI, pomagając również odróżnić tak zwane obrazy deep-fake od prawdziwych) oraz zapewnienie zabezpieczenia przed generowaniem nielegalnych treści;
- publiczne ujawnienie pochodzenia danych chronionych prawem autorskim wykorzystanych do szkolenia AI.
Następnym krokiem na ścieżce legislacyjnej AI Act będą negocjacje z Radą Unii Europejskiej w sprawie ostatecznego kształtu rozporządzenia. Rozpoczną się one jeszcze dziś. Nie wiadomo jednak, jak długo potrwają. Na konferencji prasowej, która odbyła się zaraz po głosowaniu plenarnym, Dragoș Tudorach, jeden ze współsprawozdawców PE ds. Aktu o sztucznej inteligencji, zapowiedział, że celem jest zakończenie trilogów i przyjęcie aktu do końca roku.
Zuzanna Choińska, analityczka DELab