Elon Musk și un grup de experți în inteligență artificială și de directori din industrie cer într-o scrisoare deschisă o pauză de șase luni în antrenarea unor sisteme mai puternice decât modelul GPT-4, recent lansat de OpenAI, invocând potențiale riscuri pentru societate și umanitate, relatează Reuters.
Elon Musk și un grup de experți în inteligență artificială și de directori din industrie cer într-o scrisoare deschisă o pauză de șase luni în antrenarea unor sisteme mai puternice decât modelul GPT-4, recent lansat de OpenAI, invocând potențiale riscuri pentru societate și umanitate, relatează Reuters.
Scrisoarea, transmisă de organizația non-profit Future of Life Institute (Institutul pentru Viitorul Vieții), este semnată de peste 1.000 de persoane, între care Elon Musk, directorul general al Stability AI, Emad Mostaque, cercetători de la DeepMind, deținut de Alphabet, precum și experți recunoscuți din domeniul inteligenței artificiale precum Yoshua Bengio și Stuart Russell.
Toți solicită o pauză în dezvoltarea inteligenței artificiale avansate până când protocoale de siguranță comune pentru astfel de modele vor fi dezvoltate, implementate și auditate de experți independenți.
"Sistemele puternice de inteligență artificială ar trebui să fie dezvoltate numai după ce suntem siguri că efectele lor vor fi pozitive și că riscurile lor vor fi gestionabile", se arată în scrisoare.
Scrisoarea detaliază riscurile potențiale pentru societate și civilizație pe care le pun sistemele de inteligență artificială competitive - în special perturbări economice și politice - și solicită dezvoltatorilor să colaboreze cu factorii de decizie politică în ceea ce privește guvernanța și autoritățile de reglementare.
Demersul acestor personalități vine în contextul în care și Europol, forța de poliție a UE, s-a alăturat luni vocilor - tot mai multe - care exprimă în ultimul timp preocupările de natură etică și juridică în legătură cu inteligența artificială avansată, cum ar fi ChatGPT. Europol a avertizat cu privire la potențiala utilizare abuzivă a sistemului în încercările de phishing, dezinformare și criminalitate informatică.
Sam Altman, directorul executiv al OpenAI, nu a semnat scrisoarea, a declarat pentru Reuters un purtător de cuvânt al Future of Life Institute.
În schimb, Elon Musk, a cărui companie de automobile Tesla folosește AI pentru un sistem de pilot automat, și-a exprimat deschis îngrijorarea cu privire la AI.
De la lansarea sa, anul trecut, ChatGPT al OpenAI, susținut de Microsoft, a determinat rivalii să accelereze dezvoltarea unor modele similare de limbaj, de mari dimensiuni, iar companiile să integreze modele generative de inteligență artificială în produsele lor.
"Scrisoarea nu este perfectă, dar spiritul este corect: trebuie să încetinim până când vom înțelege mai bine ramificațiile", a declarat Gary Marcus, profesor emerit la Universitatea din New York. "Pot provoca daune serioase. Marii jucători devin tot mai secretoși în legătură cu ceea ce fac, ceea ce face ca societății să-i fie greu să se apere împotriva unor eventuale daune care s-ar putea materializa", arată profesorul.
Sursa: Adevarul Zilei
