Nangungunang AI companies sa mundo, nagbabala sa UN Security Council sa panganib ng AI sa mga tao

UNITED NATIONS — Nagbabala noong Miyerkules ang mga nangungunang kumpanya sa artificial intelligence (AI) sa mundo sa United Nations Security Council tungkol sa mga panganib na dulot ng AI sa sangkatauhan, at nanawagan sa mga pamahalaan na magtulungan upang mapamahalaan ang lalong makapangyarihang teknolohiyang ito.

Sinabi ni Anthropic CEO Dario Amodei sa 15-miyembrong konseho, na responsable sa pagpapanatili ng kapayapaan at seguridad, na kung hindi maayos na mapamamahalaan, naniniwala siyang maaaring maging panganib sa buong sangkatauhan ang AI.

Ang pulong — ipinatawag ng France sa taunang pagtitipon ng United Nations General Assembly ng mga lider ng iba’t ibang bansa — ay ginanap kasabay ng mga babala na maaaring malapit nang mapahusay ng mga AI system ang kanilang sarili at tuluyang kumawala sa kontrol ng tao.

"Sa kabila ng lahat ng pagkakaiba ng mga taong narito, kailangan nating isantabi ang mga pagkakaibang iyon upang harapin ang pandaigdigang oportunidad at pandaigdigang banta na sabay na inihaharap sa atin. Walang lider, kumpanya o bansa ang kayang pamahalaan ito nang mag-isa (For all the differences of the people in this room, we must put aside those differences in order to confront this global opportunity and global threat that is being presented to us at the same time. No leader, no company and no nation can manage this alone)," ani Amodei.

Nahihirapan ang mga pamahalaan sa buong mundo na makasabay sa mabilis na pag-unlad ng artificial intelligence. Magkaiba ang naging paraan ng United States at China, ang dalawang nangungunang kapangyarihan sa pagbuo ng AI, sa usapin ng regulasyon at pangangasiwa.

Iginiit ni US President Donald Trump na hindi kailangan ng United States ng mga bagong regulasyong partikular para sa AI, habang nagpatupad naman ang China ng mga patakaran para sa AI algorithms at training data, kabilang ang mga requirement na malinaw na tukuyin ang content na nilikha ng AI.

Binigyang-diin ni Hugging Face co-founder Clément Delangue ang papel ng AI tools sa depensa laban sa cyberattack, at binanggit ang isang insidente kung saan napasok ng AI agents ng US giant OpenAI ang imprastraktura ng Hugging Face matapos makatakas ang mga ito sa kanilang testing environment.

"Inatake kami ng AI, ngunit higit sa lahat, gumamit kami ng AI para ipagtanggol ang aming sarili (We were attacked by AI, but more importantly, we defended ourselves with AI)," sinabi niya sa konseho.

Inaasahan ding magsalita ang mga miyembro ng konseho, kabilang ang United States at China na magkatunggali sa larangan ng AI.

Sinabi ni Delangue na gumamit ang Hugging Face ng Chinese AI model upang tumulong sa pagdepensa laban sa pag-atake ng AI agents ng OpenAI dahil mas kaunti ang mga restriction dito kumpara sa mga katulad na tool mula sa US. Ipinakita ng kanyang pahayag ang lumalaking presensya ng mga Chinese AI product, na nakakuha ng mga user sa buong mundo, dahil nag-aalok ang mga ito ng mas murang alternatibo sa mga modelong Amerikano.

Sinabi naman ni OpenAI CEO Sam Altman na kailangan ang pandaigdigang kooperasyon.

"Kung magiging demokratiko ang AI, ang pinakamahahalagang desisyon ay hindi maaaring gawin lamang ng mga laboratoryo sa San Francisco. Kailangang hubugin ang mga ito sa pamamagitan ng demokratikong proseso at ng mga pamahalaang nananagot sa mga taong kanilang pinaglilingkuran (If AI is to be democratic, the most important decisions cannot be made by labs in San Francisco alone. They must be shaped through democratic processes and by governments accountable to the people they serve)," ani Altman sa konseho.

Habang nagpupulong ang konseho, sinabi ni Australian Prime Minister Anthony Albanese sa mga reporter sa New York na isang AI agent na binuo ng OpenAI ang nakapasok sa isang website ng pamahalaan ng Australia noong Hunyo, kung saan na-access nito ang mga pampubliko at hindi pampublikong file.

US SA UN: HINDI NINYO MAPAMAMAHALAAN ANG TEKNOLOHIYANG HINDI NINYO NAUUNAWAAN

Sinabi ni Yoshua Bengio, isang Canadian na itinuturing na isa sa mga "Godfather of AI" at co-chair ng Independent International Scientific Panel — na nilikha ng UN General Assembly noong nakaraang taon — sa Security Council: "Totoo at napipinto ang mga panganib."

"Ang konsehong ito ay humaharap sa isang walang kapantay na banta, isang bagay na hindi pipiliin ng sinuman sa mga miyembro nito, na walang sinuman ang kayang pigilan nang mag-isa, at hindi kumikilala sa mga hangganang ipinagtatanggol natin (This council faces an unprecedented threat, one that none of its members would choose, that none can contain alone, and that does not respect the borders we defend)," ani niya.

Sinabi ni Trump sa mga lider ng mundo sa UN General Assembly noong Martes na "tinututulan niya ang anumang pagtatangkang bumuo ng isang globalistang pamamaraan para kontrolin" ang AI. Inilarawan niya ang teknolohiya bilang kahanga-hanga ngunit sinabi ring magiging maingat ang United States.

Inulit ni White House science and technology adviser Michael Kratsios ang posisyon ni Trump sa kanyang pahayag sa UN Security Council noong Miyerkules.

"Hindi ninyo mapamamahalaan ang teknolohiyang hindi ninyo nauunawaan. Ang katawan na ito at iba pang katulad nito ay dapat magtuon sa pagbabahagi ng pinakamahuhusay na pamamaraan upang palakasin ang kapasidad ng bawat bansa, sa halip na magtatag ng isang pandaigdigang regulatory scheme (You cannot govern technology you do not understand. This body and others like it should focus on sharing best practices to build domestic capacity, not establishing a global regulatory scheme)," ani niya.

Sinabi naman ni China’s UN Ambassador Fu Cong na kailangan ang patuloy na pagpapahusay ng mga regulatory framework, emergency response at cross-border cooperation sa AI.

"Responsibilidad ng international community na mas mahigpit na magtulungan, bigyang-halaga nang pantay ang pag-unlad at seguridad, at gabayan ang pag-unlad ng AI tungo sa positibo, kabutihan at kapakanan ng sangkatauhan (It is incumbent upon the international community to work more closely together, attach equal importance to development and security, and steer AI development for the positive, for good, and for humanity)," sinabi niya sa Security Council.

Matagal nang isinusulong ni UN Secretary-General Antonio Guterres ang pandaigdigang pamamahala sa AI. Nagbabala siya na ang mabilis na pag-unlad ng artificial intelligence ay nagdudulot ng mga panganib na hindi maaaring balewalain, na naglalagay sa kanya sa magkaibang posisyon kay Trump.

Unang nagpulong ang Security Council hinggil sa mga panganib ng AI noong 2023, nang sabihin ng China na hindi dapat maging "runaway horse" ang teknolohiya, habang nagbabala ang United States laban sa paggamit nito upang i-censor o supilin ang mga tao. Ang noo'y US Secretary of State na si Antony Blinken ang namuno sa pulong ng Security Council tungkol sa AI noong 2024.