Indonezja wzywa do ścisłych środków ograniczających ryzyko sztucznej inteligencji w finansach i opiece zdrowotnej

Jakarta (ANTARA) – Zastępca ministra komunikacji i spraw cyfrowych Indonezji, Nezar Patria, podkreślił kluczową potrzebę skutecznego łagodzenia ryzyka w adopcji sztucznej inteligencji (AI), zwłaszcza w sektorach wysokiego ryzyka, takich jak finanse i opieka zdrowotna.

Według Nezara integracja AI musi wykraczać poza wąski nacisk na innowacyjność i wydajność, aby aktywnie uwzględniać potencjalne podatności, gdy zautomatyzowane systemy przejmują role podejmowania decyzji.

„W sektorze usług finansowych—na przykład bankowości—wykorzystanie AI, zwłaszcza AI agentowej, której powierzono uprawnienia do podejmowania działań i decyzji, mogłoby prowadzić do fatalnych konsekwencji, jeśli wystąpi błąd,” powiedział wiceminister w oświadczeniu w piątek (30 października).

Ostrzegł, że błędy wykonawcze mogą spowodować znaczne straty finansowe lub nawet wywołać systemowy chaos gospodarczy.

Podobne zagrożenia dotyczą sektora opieki zdrowotnej, gdzie AI pomaga w diagnozowaniu chorób i kierowaniu interwencjami medycznymi.

Nezar zauważył, że awarie systemu lub błędne diagnozy bezpośrednio zagrażają ludzkim życiem, jednocześnie potęgując ryzyko dotyczące poufności wrażliwych danych pacjentów.

Przy danych jako podstawowym „paliwie” dla rozwoju AI, Nezar podkreślił konieczność rygorystycznego zarządzania danymi, aby zapobiegać naruszeniom wrażliwych informacji osobowych.

Aby chronić krajowy ekosystem cyfrowy, Indonezja obecnie polega na istniejących ramach prawnych, w tym na Ustawie o transakcjach informacyjnych i elektronicznych (ITE) oraz Ustawie nr 27 z 2022 roku dotyczącą ochrony danych osobowych.

Równolegle do egzekwowania tych regulacji, Dżakarta opracowuje Narodową mapę drogową AI i kompleksowe wytyczne etyki AI.

Nezar podkreślił, że państwo ma na celu ostrożne mapowanie trendów technologicznych, aby wspierać innowacje cyfrowe bez nakładania nadmiernych obciążeń regulacyjnych.

„Najpierw musimy kompleksowo zmapować te rozwinięcia, aby nasze podejście regulacyjne nie stało się zbyt obciążające,” powiedział.

Poza zarządzaniem, Dżakarta kładzie podwaliny pod bezpieczny krajowy ekosystem AI poprzez ukierunkowane inwestycje w infrastrukturę cyfrową, rozwój talentów, a także badania i rozwój.

Rząd utrzymuje, że te inicjatywy będą prowadzone równolegle z rygorystycznymi strategiami ograniczania ryzyka, zapewniając, że adopcja AI przynosi wymierne korzyści gospodarcze, przy jednoczesnym stawianiu bezpieczeństwa publicznego i praw konsumentów na pierwszym miejscu.

„Co potrzebujemy teraz, to wspieranie innowacji, jednocześnie zajmując się ryzykami, które mogą wyniknąć z adopcji technologii AI w różnych sektorach,” zakończył Nezar.