Ata e ndërtuan. Kanë frikë prej saj. Po e shesin gjithsesi.
Më ndaloni nëse e keni dëgjuar këtë më parë: një kompani teknologjike thotë se ka ndërtuar një inteligjencë artificiale të re që është aq e fuqishme sa është e frikshme. Me sa duket, është shumë e rrezikshme për t'u lëshuar në botë - pasojat do të ishin katastrofike. Për fat të mirë për ne, ata po e mbajnë të mbyllur për momentin. Ata thjesht donin që ju ta dinit.
Kjo është pikërisht ajo që kompania e inteligjencës artificiale Anthropic po na tregon për modelin e saj më të fundit, Claude Mythos. Kompania thotë se aftësia e Mythos për të gjetur defekte të sigurisë kibernetike i tejkalon shumë ekspertët njerëzorë dhe mund të ketë pasoja që ndryshojnë botën nëse teknologji e ngjashme bie në duar të gabuara. "Pasojat - për ekonomitë, sigurinë publike dhe sigurinë kombëtare - mund të jenë të rënda", tha Anthropic në një postim në blog në fillim të prillit . Disa vëzhgues pa frymë paralajmëruan se Mythos së shpejti do t'ju detyrojë të zëvendësoni çdo pjesë të teknologjisë në jetën tuaj, deri në mikrovalën tuaj të aktivizuar me WiFi, për t'u mbrojtur nga çmenduria dixhitale.
Disa ekspertë të sigurisë i vënë në dyshim këto pretendime, por le ta lëmë mënjanë këtë. Kjo nuk është diçka e re. Ekzekutivët e ofruesve kryesorë të inteligjencës artificiale lëshojnë rregullisht paralajmërime se si produktet e industrisë së tyre mund ta shkatërrojnë njerëzimin. Pse kompanitë e inteligjencës artificiale duan që ne të kemi frikë prej tyre?
Është një mënyrë e çuditshme për çdo kompani të flasë për punën e vet. Nuk e dëgjon McDonald's të njoftojë se ka krijuar një hamburger kaq tmerrësisht të shijshëm sa do të ishte joetike ta piqte në skarë për publikun.
Ja një teori. Sipas kritikëve, është në dobi të kompanive të inteligjencës artificiale t'ju mbajnë të fiksuar te apokalipsi, sepse kjo ju shpërqendron nga dëmi shumë i vërtetë që po i shkaktojnë botës. Liderët e teknologjisë thonë se ata thjesht po na paralajmërojnë për një të ardhme të pashmangshme dhe siguria është një përparësi kryesore, qoftë tani apo më vonë. Por të tjerë argumentojnë se ajo që po shohim në të vërtetë është përhapja e frikës, e cila ekzagjeron potencialin e teknologjisë dhe shërben për të rritur çmimet e aksioneve. Dhe kjo inkurajon një narrativë që rregullatorët duhet të qëndrojnë mënjanë, sepse këto kompani të inteligjencës artificiale janë të vetmet që mund t'i ndalojnë të këqijtë dhe ta ndërtojnë këtë teknologji me përgjegjësi.
“Nëse i portretizon këto teknologji si disi pothuajse mbinatyrore në rrezikun e tyre, kjo na bën të ndihemi sikur jemi të pafuqishëm, sikur jemi të pakrahasueshëm”, thotë Shannon Vallor, një profesoreshë e etikës së të dhënave dhe inteligjencës artificiale në Universitetin e Edinburgut në Mbretërinë e Bashkuar. “Sikur të vetmit njerëz nga të cilët mund të mbështeteshim do të ishin vetë kompanitë.”
Dikush më ndalo
Një zëdhënës i Anthropic më tha se kompania ka qenë e qartë në lidhje me këto çështje. Ata ndanë postime në blog nga organizata të tjera që mbështesin aftësitë kibernetike të Mythos, por nuk thanë asgjë për të adresuar pikat në këtë artikull, përveç një komenti që do ta përfshij më poshtë.
Kjo nuk është hera e parë që drejtori i Anthropic, Dario Amodei, ka punuar në një mjet që është shpallur shumë i rrezikshëm për publikun nga kompania për të cilën ai punonte. Në vitin 2019, kur Amodei ishte ekzekutiv në OpenAI, kompania njoftoi GPT-2. Ai dhe drejtues të tjerë të kompanisë thanë se thjesht nuk mund ta publikonin GPT-2 për shkak të "shqetësimeve në lidhje me aplikimet keqdashëse të teknologjisë". Ky ishte një mjet shumë më pak i sofistikuar se ChatGPT. Dhe muaj më vonë, ata e publikuan atë gjithsesi. (CEO i OpenAI, Sam Altman, publikoi një postim në blog ku thotë se kompania e përqafon pasigurinë , duke pranuar se frika për GPT-2 ishte "e gabuar".)
Altman kritikoi "marketingun e bazuar në frikë" të Anthropic në një intervistë të kohëve të fundit në podcast . Por libri i tij i strategjisë "Unë kam krijuar një përbindësh" daton vite më parë.
"Inteligjenca artificiale ndoshta do të çojë në fundin e botës, por ndërkohë, do të ketë kompani të shkëlqyera", tha Altman në vitin 2015. Vite më vonë, Altman pretendoi se humbet gjumin duke menduar nëse "ka bërë diçka vërtet të keqe duke lançuar ChatGPT". Sikur dikush ta paralajmëronte.
Qindra liderë të teknologjisë, përfshirë Altman, Amodei, Bill Gates dhe Demis Hassabis, drejtor ekzekutiv i Google DeepMind, miratuan një deklaratë të shkurtër në vitin 2023 që thoshte: "Zbutja e rrezikut të zhdukjes nga IA duhet të jetë një përparësi globale së bashku me rreziqe të tjera në shkallë shoqërore, siç janë pandemitë dhe lufta bërthamore." Po atë vit, manjatë, përfshirë Elon Musk, nënshkruan një letër duke bërë thirrje për një pauzë gjashtëmujore në ndërtimin e IA-së së përparuar. Musk njoftoi kompaninë e tij të re të inteligjencës artificiale xAI më pak se gjashtë muaj më vonë.
“Është thjesht pjesë e këtij modeli të pretendimeve të pabazuara të pushtetit”, thotë Emily M Bender, profesoreshë e gjuhësisë kompjuterike dhe përpunimit të gjuhës natyrore në Universitetin e Uashingtonit dhe bashkautore e librit The AI Con. Kjo nuk kufizohet vetëm në OpenAI dhe Anthropic, thotë ajo, është qëndrimi standard për të gjithë industrinë e IA-së. “Ata po thonë 'shikoni këtu', lëreni mënjanë shkatërrimin mjedisor dhe shfrytëzimin e punës dhe të gjitha këto sisteme që po shkatërrojmë në shoqëri. Ne vetëm duhet të shqetësohemi për t'u siguruar që kjo gjë të mos shndërrohet në atë të keqen që shkatërron njerëzimin.”
E pyeta OpenAI-n për të gjitha këto. Një zëdhënës ndau një postim të kohëve të fundit në blog nga Altman, ku ai shkroi se OpenAI do të "rezistonte ndaj potencialit të kësaj teknologjie për të konsoliduar pushtetin në duart e pakicës", duke shtuar se "vendimet kryesore në lidhje me IA-në merren nëpërmjet proceseve demokratike dhe me parime egalitare, dhe jo vetëm nga laboratorët e IA-së".
A është vërtet kaq i keq Mythos?
Anthropic thotë se modeli i saj i ri ka gjetur tashmë mijëra dobësi "me ashpërsi të lartë" në të gjithë peizazhin teknologjik në një nivel që tejkalon ekspertët njerëzorë. Gjithashtu njoftoi një partneritet të ri me më shumë se 40 kompani dhe grupe në një "përpjekje urgjente" për të rregulluar dobësitë përpara se hakerat të kenë një shans. Një zëdhënës i kompanisë më tha se Anthropic ka qenë i qëllimshëm në partneritetin me organizatat për të rregulluar sistemet themelore të informatikës të cilat përfaqësojnë "pjesën më të madhe" të problemit.
Por ka dyshime të konsiderueshme rreth këtyre pretendimeve , dhe Heidy Khlaaf, shkencëtarja kryesore e IA-së në Institutin AI Now, nuk mbeti e impresionuar. Ajo e ka kaluar karrierën e saj duke ndërtuar dhe audituar saktësisht llojet e mjeteve të analizës së kodit që Anthropic sugjeron se janë tejkaluar. Ajo ka punuar gjithashtu në sigurinë dixhitale në impiantet bërthamore.
Khlaaf thotë se sinjali më i madh i kuq ishte mungesa e shkallës së pozitiviteteve të rreme – një masë standarde e industrisë se sa shpesh një mjet sigurie sinjalizon diçka që nuk është një problem i vërtetë. "Ky nuk është ndonjë metrikë e panjohur," thotë Khlaaf. "Ky është në një farë mënyre treguesi më i madh se sa i dobishëm është mjeti juaj." Anthropic nuk e përmendi dhe e anashkaloi pyetjen kur kërkova koment. As Anthropic nuk e mat Mythos kundrejt mjeteve ekzistuese në të cilat inxhinierët e sigurisë janë mbështetur për dekada të tëra.
Gjithashtu ka pasur disa pretendime se Anthropic mund të ketë vonuar një publikim të gjerë të Mythos sepse nuk kishte mundësi të përballonte fuqinë e nevojshme kompjuterike . Anthropic nuk u përgjigj as kur pyeta për këtë.
Asnjë nga këto nuk do të thotë që kërcënimi është imagjinar. "Mythos mund të jetë i aftë", thotë Khlaaf. Mjetet e inteligjencës artificiale janë vërtet të përshtatshme për skanimin e bazave masive të kodit dhe gjetja automatike e dobësive të sigurisë është një rrezik real dhe urgjent. Por Khlaaf është skeptik në lidhje me pretendimet e Anthropic pa qenë në gjendje t'i mbështesë ato. "Mendoj se ka shumë të çara në këtë rrëfim se Mythos është i gjithëpushtetshëm, nuk mund ta publikojmë."
Pse kaq serioz?
Parandalimi i fundit të botës është arsyeja pse OpenAI dhe Anthropic thonë se ekzistojnë që në fillim. OpenAI u themelua si një organizatë jofitimprurëse, duke premtuar të ndërtonte IA-në në një mënyrë të sigurt përpara se gjigantët teknologjikë, të cilët supozohet se janë më pak të përgjegjshëm, si Google dhe Meta, të arrinin atje të parët. Më vonë, një grup i ndarë u largua nga OpenAI për të formuar Anthropic sepse thanë se punëdhënësi i tyre i vjetër nuk ishte mjaftueshëm i përkushtuar ndaj sigurisë. Tani, të dy organizatat po punojnë për t'u bërë kompani të tregtueshme publikisht dhe për të shitur aksione në bursë.
"Nëse doni të kuptoni se si do të sillet një organizatë, veçanërisht një korporatë, shikoni se cilat janë stimujt e saj", thotë Vallor.
Google hoqi dorë nga vijat e kuqe në lidhje me ndërtimin e armëve të inteligjencës artificiale. OpenAI zhvilloi një betejë ligjore për të hequr dorë nga statusi i saj jofitimprurës. Anthropic braktisi politikën e saj kryesore për të mos trajnuar kurrë një model të inteligjencës artificiale nëse kompania nuk mund të garantonte masa të mjaftueshme sigurie.
"Nuk do të mbështetesha te [asnjëra prej këtyre kompanive] që të heqin dorë nga mundësia për të dominuar tregun në mënyrë që të mbeten njerëzit e mirë", thotë Vallor.
Ndërkohë, ka një shtytje për inteligjencën artificiale në kujdesin shëndetësor pavarësisht shqetësimeve serioze në lidhje me diagnozat e gabuara . Qendrat e të dhënave që punojnë me benzinë mund të lëshojnë më shumë gazra serrë sesa vende të tëra. IA thuhet se po çon masa njerëzish vulnerabël deri në pikën e psikozës dhe madje edhe të vetëvrasjes . Një numër gjithnjë e në rritje kërkimesh sugjerojnë një lidhje të mundshme midis IA-së dhe rënies njohëse . Deepfakes kanë kaluar pikën pa kthim - nuk munda ta bindja tezen time se nuk jam robot.
Kompanitë e inteligjencës artificiale thonë se i marrin seriozisht këto çështje. OpenAI më dërgoi linqe për qëndrimin e saj mbi shëndetin mendor , saktësinë e inteligjencës artificiale , mashtrimet dhe dredhitë , dhe Altman thotë se kompania është e përkushtuar për të adresuar problemet në çdo fazë të zhvillimit të inteligjencës artificiale.
Por ka një arsye pse këto kompani japin alarmin vetëm për apokalipsin, thotë Vallor. Nëse inteligjenca artificiale mund të shkatërrojë shoqërinë, këto probleme të tjera duken shumë më pak të rëndësishme. "Strategjia ka funksionuar," thotë ajo. "Të folurit për produktet e tyre sikur mund t'i japin fund botës nuk i ka dëmtuar këto kompani. Nuk e ka kufizuar fuqinë e tyre. Nëse ka ndonjë gjë, i bën njerëzit të ndihen sikur të vetmit tek të cilët mund të kërkojnë mbrojtje janë vetë kompanitë."
Demonë ose mesia
Pothuajse në të njëjtën frymë, disa nga njerëzit që paralajmërojnë për shkatërrim premtojnë gjithashtu shpëtim. Në një ese të vitit 2024 , Altman parashikon se "triumfet mahnitëse - rregullimi i klimës, krijimi i një kolonie hapësinore dhe zbulimi i të gjithë fizikës - përfundimisht do të bëhen të zakonshme". Amodei premtoi "një vend gjenish në një qendër të dhënash".
Utopia dhe apokalipsi janë vetëm dy anët e së njëjtës medalje, sipas Vallor. "Në të dyja rastet, shkalla është shumë e madhe dhe mitike që gjëra të tilla si rregullimi, qeverisja apo ligji gjyqësor të duken sikur mund t'i kesh blerë", thotë ajo. "Kjo i bën njerëzit të besojnë se e tëra çfarë mund të bëjnë është të ulen dhe të presin për të zbuluar nëse këto teknologji rezultojnë të jenë demonë që i japin fund qytetërimit apo mesia që i japin utopisë". Edhe emri "Mythos" duket se është krijuar për të frymëzuar admirim fetar.
Por këto nuk janë perëndi, janë produkte të ndërtuara nga kompanitë, për fitim, thotë Vallor. Dhe ne kemi rregulluar gjëra shumë më kërcënuese sesa chatbot-et. "Çdo teknologji, përveç kësaj, madje edhe armët bërthamore, madje edhe ato biologjike, në asnjë rast tjetër nuk i kemi lejuar këto narrativa të na bëjnë të mendojmë se këto janë forca përtej kontrollit njerëzor", thotë ajo. "Asgjë rreth tyre nuk është e paqeverisshme. Përveç nëse zgjedhim të mos i qeverisim ato."
Le të jemi të qartë: teorikisht është e mundur që inteligjenca artificiale të pushtojë botën. Unë nuk jam fallxhore. Por pyeteni veten, a ju tingëllon kjo ide e ngjashme me historitë e tjera që keni dëgjuar nga Silicon Valley në të kaluarën?
A nuk supozohej të jetonim të gjithë në Metaversin e Mark Zuckerbergut deri tani? A nuk do të zëvendësonte Bitcoin të gjithë monedhën botërore? A ju kujtohen vitet 2010, kur dëgjuam se si mediat sociale do ta shpëtonin demokracinë? Të gjitha këto gjëra mund të ndodhin ende. Ose ndoshta nuk do të ndodhin./Përshtati në shqip Piranjat News
Artikuj te sugjeruar
BOTA
30 Prill11:31
Video tronditëse/ Foshnja bie mbi shina dhe babai e mbulon ndërsa kalon treni
Momente tensioni dhe ankthi u zhvilluan në një stacion hekurudhor në Bangladesh kur një foshnjë ra nga platforma ndërs...
BOTA
30 Prill11:26
Çfarë po ndodh me naftën, pse ra nga nivelet historike prej 126 dollarësh në 111 dollarë brenda pak orësh?
Në orët e fundit, kemi parë luhatshmëri të madhe në çmimet e naftës bruto, me Brent që ra nga ni...
BOTA
30 Prill09:24
Rriten tensionet me Iranin, SHBA shqyrtojnë vendosjen e raketës hipersonike “Earl Eagle” në Lindjen e Mesme
Shtetet e Bashkuara po shqyrtojnë një plan për vendosjen e raketës hipersonike “Earl Eagle” në Lindja e Mesme, në ku...
BOTA
30 Prill08:57
“Luftë” teknologjike/ Bllokoi blerjen e startup-it të IA Manus nga Meta, Kina nuk do largimin e teknologjisë drejt SHBA-së
Qeveria kineze bllokoi blerjen e startup-i të inteligjencës artificiale Manus nga kompania Facebook Meta. SHBA dhe Kina janë në garë ...
BOTA
30 Prill08:45
Pas gati 8 vitesh, Powell jep dorëheqjen si shef i Rezervës Federale, njofton se do të mbajë ‘profil të ulët’ në bord
Joreme Powell, ka dhënë dorëheqjen si shef i Rezervës Federale pas gati 8 vitesh në kryet të Fed.
Ai mirëpriti pasardh&eum...
BOTA
30 Prill08:40
Trump: Rusia duhet të zgjidhë krizën në Ukrainë, jo të merret me Iranin
Presidenti i SHBA-së, Donald Trump, tha se është më e rëndësishme për të që Moska të merret me konfliktin Ru...
BOTA
30 Prill08:35
Trump: Po shqyrtohet mundësia e reduktimit të trupave amerikane në Gjermani
Presidenti i Shtetet e Bashkuara, Donald Trump, deklaroi të mërkurën se administrata e tij po shqyrton mundësinë e një reduktimi...
BOTA
30 Prill08:24
“Bjellorusia nuk duhet të përfshihet në luftë”/ Zelensky nënshkruan një paketë të re sanksionesh kundër Rusisë
Presidenti ukrainas Volodymyr Zelensky ka nënshkruar sot një paketë të re sanksionesh. Zelensky thekson se kjo paketë e re u vendos k...
BOTA
30 Prill08:20
Axios: SHBA-të kanë përgatitur një plan të ri sulmi kundër Iranit
SHBA-të kanë përgatitur një plan për një valë të shkurtër dhe të fuqishme sulmesh kundër Iranit pë...
