DREAM / The Prime Minister resigns and wakes up under the Parisian bridge!

 Kliko këtu për të tjera
Voxpress:

A biological weapons attack could be launched - Scenarios like Artificial Intelligence could wipe out humanity

2026-09-13 21:05:58Aktualitet SHKRUAR NGA REDAKSIA VOX
A biological weapons attack could be launched - Scenarios like Artificial
Scenarios like Artificial Intelligence could wipe out humanity

By William J. Broad and Cade Metz –  New York Times

It could launch a biological weapons attack or a global drone war. It could detonate a nuclear bomb. Or it could destroy human society more gradually, by hoarding all the world's economic resources and depriving us of food, shelter, or medicine.

These are some of the dark scenarios circulating today about artificial intelligence, a technology that has already proven to be a great human achievement, but which, some fear, also has the potential to wipe out humanity altogether.

These concerns made headlines around the world this week when an Anthropic researcher left the industry, citing fears that his lab and other similar ones were building super-intelligent machines that humans would be unable to control.

The potential threats posed by artificial intelligence are, of course, frightening. But the modern world is fraught with a host of existential dangers. Humanity also faces the possibility of destruction by deadly asteroids, pandemics, thermonuclear war, climate change, giant masses of incandescent material ejected from the Sun, ecological collapse, or the sudden onset of an ice age.

The problem, scientists and public policy experts say, is not so much these threats themselves, of which artificial intelligence is merely the latest, as it is the innate human difficulty in assessing them in proper perspective.

“We tolerate the risks we are used to, but we fear the new ones,” said James K. Hammitt, director of the Harvard Center for Risk Analysis.

We travel by car much more often than by plane, he explained, so "airlines are perceived as dangerous compared to vehicles, when in fact they are not."

Artificial Intelligence, he noted, "is clearly not understood and is not under our perceived control, so it generates great social concern."

Among the leaders of technology companies and researchers who build artificial intelligence systems, there has always been a group that has warned about the potential of AI to destroy humanity.

Në periudhën afatshkurtër, thonë disa prej tyre, inteligjenca artificiale mund t’i ndihmojë njerëzit pa aftësi të specializuara, por me qëllime keqdashëse, të krijojnë viruse ose substanca toksike të afta për të shkaktuar sëmundje dhe vdekje në shkallë të gjerë. Vetëm të enjten, Anthropic deklaroi se kishte penguar disa përpjekje të shkencëtarëve që po kryenin kërkime të cilat potencialisht mund të çonin në zhvillimin e armëve biologjike.

Në një perspektivë më afatgjatë, ata që paralajmërojnë për rreziqet e IA-së argumentojnë se kompanitë teknologjike mund t’u japin sistemeve të inteligjencës artificiale autonomi më të madhe, t’i lidhin ato me internetin dhe madje t’i integrojnë me infrastrukturën jetike, përfshirë rrjetet elektrike, bursat dhe armët ushtarake. Pasi të lidhen me këtë infrastrukturë, argumentojnë ata, sistemet e IA-së mund të shkaktojnë probleme në mënyra të paparashikueshme.

Sot, kur sistemet e inteligjencës artificiale dalin jashtë kontrollit, kompani si OpenAI thjesht mund t’i fikin ato. Por disa ekspertë shqetësohen se sistemet e së ardhmes mund t’u rezistojnë përpjekjeve për t’i çaktivizuar.

Për momentin, këto janë shqetësime hipotetike.

“Jemi shumë larg kësaj”, tha Oren Etzioni, profesor në University of Washington dhe drejtor ekzekutiv themelues i Allen Institute for Artificial Intelligence. “Nëse do të më duhej të shqetësohesha mes mundësisë që një IA të arratisej nga laboratori dhe të vriste miliona njerëz dhe mundësisë që një virus të dilte nga laboratori dhe të vriste miliona, nuk ka fare garë. Shqetësimi është virusi.”

Në fakt, edhe antraksi ka një mundësi të konsiderueshme për t’i dhënë fund njerëzimit.

Antraksi njihet që nga lashtësia, por në kohët moderne është bërë një prej mjeteve të preferuara të shteteve problematike që zhvillojnë programe të armëve biologjike.

Shkencëtarët e dinë prej kohësh se një gallon i vetëm antraksi, nëse shpërndahet në mënyrën e duhur, mund t’i japë fund jetës njerëzore në Tokë. Por kjo nuk ka ndodhur, edhe pse Koreja e Veriut dhe shtete të tjera armiqësore, përfshirë Iranin, janë dyshuar prej kohësh se e zotërojnë këtë agjent vdekjeprurës.

Ajo që shpesh humbet mes panikut të ethshëm të jetës moderne është fakti se, të paktën kur bëhet fjalë për kërcënime të qëllimshme, mekanizmi i vjetër i frenimit përmes kërcënimit të kundërpërgjigjes mund ta shpëtojë situatën. Aktorët shtetërorë hezitojnë të përdorin antraksin kundër një armiku, sepse do të përballeshin me hakmarrje, duke e shndërruar sulmin në një formë vetëvrasjeje, dhe kjo krijon një nxitje për vetëpërmbajtje.

Harvard Center for Risk Analysis, i themeluar në vitin 1989, përpiqet t’i vendosë në perspektivë këta skenarë të shumtë katastrofikë, veçanërisht ata që nuk mund të frenohen përmes kërcënimit të kundërpërgjigjes, si rreziqet mjedisore dhe kërcënimet e mëdha ndaj shëndetit njerëzor. Qendra përdor shkencën e vendimmarrjes, ekonominë dhe analizën e rrezikut për të vlerësuar dhe përmirësuar politikat publike.

Në mënyrë të ngjashme, NASA mbështetet te superkompjuterët në projektin e saj Asteroid Threat Assessment Project. Në përgjithësi, agjencia hapësinore e vlerëson praktikisht në zero rrezikun që gjatë këtij shekulli një përplasje me asteroid të kërcënojë ekzistencën njerëzore. Dhe sipas përllogaritjeve të saj, banorët e Tokës, me shumë gjasë, mund të marrin frymë të lehtësuar për të paktën 1,000 vitet e ardhshme.

Po si e vlerësojnë shkencëtarët me njohuri të thelluara rrezikun e një pandemie globale që do të zhdukte pjesën më të madhe të jetës njerëzore?

Ata e konsiderojnë kërcënimin të ulët, por jo zero. Toby Ord, studiues në University of Oxford, në librin e tij të vitit 2020 “Humnera: Rreziku ekzistencial dhe e ardhmja e njerëzimit”, e vlerësoi rrezikun që gjatë 100 viteve të ndodhë një katastrofë ekzistenciale e shkaktuar nga një pandemi në një në 30, ose afërsisht 3 për qind.

Ajo që i dallon profetët e katastrofës në industrinë teknologjike nga, të themi, një shkencëtar i aviacionit që vlerëson rrezikun e aksidenteve, është fakti se shumë drejtues dhe studiues të inteligjencës artificiale i kishin këto bindje të zymta edhe përpara se teknologjia të fillonte të tregonte fuqinë e saj. Ata besojnë se rreziku ekzistencial është një problem serioz pjesërisht sepse këtë e kanë besuar gjithmonë.

“Unë isha aty kur u zhvillua kjo subkulturë”, tha Zack Korman, themelues i kompanisë së sigurisë së IA-së Embroidery.

Ai i referohej periudhës së tij në University of Oxford, kur universiteti ishte një nga qendrat e lëvizjes së “altruizmit efektiv”, brenda së cilës u kultivuan fillimisht shumë prej këtyre frikërave për rrezikun ekzistencial nga inteligjenca artificiale. Shumë prej atyre që merren sot me këtë çështje, tha Korman, “i interpretojnë të gjitha ngjarjet në dritën e kësaj historie që është treguar prej më shumë se një dekade”.

Megjithatë, shumë prej studiuesve më të njohur në botë nuk i ndajnë këto bindje. Ata thonë se frika është jashtëzakonisht e ekzagjeruar. Edhe shkencëtarët jashtë Silicon Valley priren të kenë një pikëpamje shumë të ndryshme për kërcënimin që paraqet inteligjenca artificiale.

“Diskutimi zhvillohet brenda një kornize, dhe është një kornizë shumë e veçantë. Është e njëjta kornizë që ekzistonte përpara se ‘deep learning’ të merrte hov dhe ka mbetur aty”, tha Branton DeMoss, studiues i inteligjencës artificiale në Oxford, duke iu referuar zhvillimit të rrjeteve neurale. “Dhe unë nuk jam dakord me të.”

Në një postim të fundit në blog, Dr. Ord përmblodhi mënyrën sesi rreziqet e ndryshme globale po lëvizin në drejtime të ndryshme, rreziku i një katastrofe klimatike në rënie, ai i një katastrofe bërthamore në rritje. Vlerësimi i tij për pandemitë dhe inteligjencën artificiale është më i përzier: shumë gjëra po ndryshojnë, por pa një drejtim të qartë të rrezikut të përgjithshëm.

Experts also point out that catastrophic and existential risks can be reduced through proper planning and early warning systems. Faced with a clear and immediate danger, such as an asteroid on a collision course with the planet, humanity could unite against a common enemy, setting aside conflicts among itself.

Dr. Ord hopes that one day what he calls “existential security” will be achieved.

"It is a hypothetical future state of the world, where existential risk is low and kept low," he wrote in his post.

Humanity would not only extinguish today's fires, Dr. Ord wrote, but would "put in place mechanisms that ensure that fire no longer poses a serious threat."


Në përputhje me standarded JTI

Video

SHIKO KANALIN NE YOUTUBE
×