Anthropic, una dintre principalele companii americane de inteligenţă artificială (AI), a propus joi un sistem care să permită jucătorilor principali din acest domeniu tehnologic să încetinească sau să suspende de comun acord dezvoltarea inteligenţei artificiale pentru a oferi timp omenirii să se adapteze la schimbările pe care această tehnologie promite să le aducă, transmite vineri AFP, citată de Agerpres.
Creatorul modelelor AI Claude a invocat în mod specific riscul unei „pierderi a controlului” pentru a explica propunerea sa, care contrazice direct cursa dintre giganţii industriei, alimentată de investiţii masive, în ciuda preocupărilor etice, sociale şi de mediu.
„Credem că ar fi bine pentru lume să avem capacitatea de a încetini sau de a suspenda temporar dezvoltarea AI de ultimă generaţie, pentru a permite structurilor societale şi cercetării de aliniere să ţină pasul cu progresul tehnologic”, susţine compania într-un comunicat publicat de think tank-ul său, Institutul Anthropic.
Compania, aflată în concurenţă acerbă cu OpenAI, Google şi firma chineză DeepSeek, pledează pentru crearea unui sistem global de coordonare pentru a împiedica orice rival să obţină un avantaj. Fără un astfel de mecanism, „companiile şi guvernele vor trebui să ia decizii dificile de securitate sub presiunea concurenţei şi a consideraţiilor geopolitice”, scrie aceasta.
Anthropic citează precedentul reprezentat de Tratatul privind Forţele Nucleare cu Rază Intermediară de Acţiune (INF) şi a subliniat că a fost nevoie de mai multe decenii până la stabilirea acestui cadru, în condiţiile în care timpul este mai presant pentru AI, care este considerat „mult mai uşor de ascuns decât silozurile de rachete”.
Intervievat la BBC, Jack Clark, co-fondator al companiei alături de Dario şi Daniela Amodei, a făcut o paralelă cu boom-ul petrolier de la începutul secolului al XX-lea, despre care a spus că a fost însoţit de reglementări care au încurajat încrederea publicului şi au eliminat necesitatea de a „se preocupa de personalităţilor liderilor companiei”.
„În acest moment, este ca şi cum sectorul AI ar avea o pedală de acceleraţie, dar nu şi o pedală de frână”, a avertizat el.
Această propunere vine pe fondul unei frenezii financiare din jurul acestei revoluţii tehnologice, marcată de anunţul recent al SpaceX, compania lui Elon Musk, care include laboratorul de inteligenţă artificială xAI, cu privire la listarea sa planificată la bursă, care se aşteaptă să fie cea mai mare din istorie.
Ideea sa de a întrerupe dezvoltarea se aşteaptă să întâmpine o rezistenţă puternică în Statele Unite, unde mulţi directori şi lideri din domeniul tehnologiei se opun oricărei încetiniri care ar oferi Chinei un avantaj decisiv.
Donald Trump a declarat că a discutat despre posibilitatea cooperării cu China în ceea ce priveşte securitatea inteligenţei artificiale în timpul unei vizite recente la Beijing.
După o oarecare ezitare iniţială, preşedintele SUA Donald Trump a semnat, de asemenea, săptămâna aceasta un ordin executiv mult aşteptat privind reglementarea sectorului, care permite supravegherea guvernamentală a celor mai avansate modele de inteligenţă artificială în numele securităţii cibernetice, dar numai pe bază voluntară.
Anthropic, fondat de disidenţi de la OpenAI, şi-a cultivat o imagine de laborator care prioritizează etica şi securitatea. Cu toate acestea, laboratorul s-a confruntat cu critici din partea industriei şi a oficialilor de la Casa Albă, care îl acuză că exagerează riscurile şi chiar se angajează într-o strategie de „marketing al fricii”.
În ultimele două luni, Anthropic a restricţionat lansarea Mythos, cel mai avansat model al său, pentru a implementa patch-uri de securitate cibernetică înainte de a-l face disponibil publicului. Anthropic a anunţat lansarea unor modele cu performanţe echivalente „în următoarele săptămâni”, iar sisteme comparabile sunt aşteptate de la concurenţii săi.
Compania îşi justifică propunerea dezvăluind date interne care ilustrează posibilitatea de a ajunge într-o zi la o „auto-îmbunătăţire recursivă”, adică la punctul în care sistemele de inteligenţă artificială vor deveni capabile să-şi antreneze succesorii, cu o implicare umană redusă.
„Nu există nicio garanţie că o astfel de schimbare este la orizont”, clarifică compania, dar „dacă tendinţele actuale continuă”, ar deveni „plauzibil”. Compania consideră acest lucru atât ca un salt înainte pentru medicină, tehnologie şi economie, cât şi ca un risc de „pierdere a controlului”.
sursa – AGERPRES
