ݺߣ

ݺߣShare a Scribd company logo

AT-Inteligenta Artificiala (3)-Reacții Pro si Contra IA-ssh.ppt

•Download as PPT, PDF•
•
IOANR
IOANR

Progresele în inteligența artificială (IA) fac în fiecare zi titluri în mass-media națională și internațională. Ele aduc în discuție diferite puncte de vedere, cu argumente PRO și CONTRA dezvoltării IA avansate, care ar putea reprezenta o schimbare profundă în istoria vieții și societății pe Pământ. Am interacționat cu modele de inteligență artificială pentru elaborarea unor texte și crearea unor imagini care să ilustreze mai bine, decât documentarea de pe Internet, prezentarea opiniilor, argumentelor și reacțiilor PRO și CONTRA inteligenței artificiale. Și muzica preluată de pe Youtube, pentru cele 3 powerpoint de până acum, a fost compusă de modele de inteligență artificială.

1 of 38
Download to read offline
Avans în ritmul dorit cu Avans în ritmul dorit cu Inteligen a Artificială (3) ț Inteligen a Artificială (3) ț – – Reac ii Pro i Contra IA ț ș Reac ii Pro i Contra IA ț ș Părerile i ac iunile reprezentan ilor comunită ii tiin ifice, ș ț ț ț ș ț Părerile i ac iunile reprezentan ilor comunită ii tiin ifice, ș ț ț ț ș ț ale unor personalită i, ări i organiza ii interna ionale ț ț ș ț ț ale unor personalită i, ări i organiza ii interna ionale ț ț ș ț ț despre despre impactul inteligen ei artificiale ț impactul inteligen ei artificiale ț asupra societă ii omene ti ț ș asupra societă ii omene ti ț ș eviden iază progresele rapide ț eviden iază progresele rapide ț aduse de IA în diferite domenii de activitate, aduse de IA în diferite domenii de activitate, dar i amenin ările i pericolele reale i poten iale privind viitorul umanită ii. ș ț ș ș ț ț dar i amenin ările i pericolele reale i poten iale privind viitorul umanită ii. ș ț ș ș ț ț Una dintre cele mai complicate i controversate ș Una dintre cele mai complicate i controversate ș probleme ale viitorului probleme ale viitorului devine Inteligen a Artificială. ț devine Inteligen a Artificială. ț Este o mare incertitudine cu privire Este o mare incertitudine cu privire la ceea ce se va întâmpla în continuare, la ceea ce se va întâmpla în continuare, pentru că sunt mai multe întrebări decât răspunsuri. pentru că sunt mai multe întrebări decât răspunsuri. Există viziuni despre Există viziuni despre viitorul distopic. viitorul distopic. în care o inteligen ă artificială ț în care o inteligen ă artificială ț se întoarce împotriva oamenilor, se întoarce împotriva oamenilor, i viitorul utopic în care o inteligen ă artificială ș ț i viitorul utopic în care o inteligen ă artificială ș ț transformă în bine via a noastră. ț transformă în bine via a noastră. ț Inteligen a artificială (IA) ț Inteligen a artificială (IA) ț a devenit a devenit una dintre cele mai revolu ionare tehnologii ale secolului 21, ț una dintre cele mai revolu ionare tehnologii ale secolului 21, ț influen ând fiecare aspect al vie ii noastre, ț ț influen ând fiecare aspect al vie ii noastre, ț ț de la modul în care trăim, lucrăm i învă ăm, până la modul ș ț de la modul în care trăim, lucrăm i învă ăm, până la modul ș ț în care comunicăm în care comunicăm i interac ionăm ș ț i interac ionăm ș ț . Prezentând unele dintre ele, am adăugat i o perspectivă personală. ș Prezentând unele dintre ele, am adăugat i o perspectivă personală. ș
Cum va arăta omenirea în viitor? Putem să ne imaginăm... Cum va arăta omenirea în viitor? Putem să ne imaginăm... tiin a i tehnologia Ș ț ș tiin a i tehnologia Ș ț ș vor schimba cursul evolutiei. vor schimba cursul evolutiei. Selec ia naturală ț Selec ia naturală ț nu mai are acela i rol ș nu mai are acela i rol ș în condiţiile în condiţiile progresului tehnologic accelerat. progresului tehnologic accelerat. Teoria 1 - Teoria 1 - Evolu ia umană prin selec ie naturală s-a oprit. ț ț Evolu ia umană prin selec ie naturală s-a oprit. ț ț Antropologul Antropologul Ian Tattersall i Steve Jones ș Ian Tattersall i Steve Jones ș , profesor de genetică, , profesor de genetică, ca i cunoscutul fizician ș ca i cunoscutul fizician ș Stephen Hawking, Stephen Hawking, consideră că consideră că selec ia naturală este depă ită ț ș selec ia naturală este depă ită ț ș pentru că datorită progreselor din medicină, chiar si cei mai slabi sau bolnavi pentru că datorită progreselor din medicină, chiar si cei mai slabi sau bolnavi pot supravie ui i transmite genele lor. ț ș pot supravie ui i transmite genele lor. ț ș Teoria 2 - Specia umană va continua să evolueze. Teoria 2 - Specia umană va continua să evolueze. În condi iile progresului tehnologic accelerat va apărea ț În condi iile progresului tehnologic accelerat va apărea ț „selec ia artificială” ț „selec ia artificială” ț Geoffrey Miller Geoffrey Miller consideră că atât consideră că atât selec ia artificială ț selec ia artificială ț , cât i cea biologică ș , cât i cea biologică ș vor continua să joace un rol important. vor continua să joace un rol important. Teoria 3 – În perioada care urmează, a colonizării spa iului, ț Teoria 3 – În perioada care urmează, a colonizării spa iului, ț diferite condi ii de mediu ar putea schimba modul de evolu ie al oamenilor. ț ț diferite condi ii de mediu ar putea schimba modul de evolu ie al oamenilor. ț ț Teoria 4 - Specia umană va ajunge la nemurire. Teoria 4 - Specia umană va ajunge la nemurire. Nick Bostrom Nick Bostrom crede că crede că selec ia artificială non-naturală ț selec ia artificială non-naturală ț pe baza noilor descoperiri pe baza noilor descoperiri precum precum clonarea, modificarea genelor, clonarea, modificarea genelor, robotică, inteligen ă artificială ț robotică, inteligen ă artificială ț i nanotehnologie, și nanotehnologie, ș va duce la va duce la transumanism i nemurire ș transumanism i nemurire ș
I IPOTEZ POTEZE E privind privind EVOLU I Ț EVOLU I Ț A A VIITO VIITOA AR RE E pe pe traseul „artificial”. traseul „artificial”. Am ajuns acum într-o etapă a evolu iei în care progresul tiin ific i tehnologic ț ș ț ș Am ajuns acum într-o etapă a evolu iei în care progresul tiin ific i tehnologic ț ș ț ș accelerat accelerat va schimba radical mecanismele evolutive. va schimba radical mecanismele evolutive. În primul rând În primul rând, am învă at conceptele i ț ș , am învă at conceptele i ț ș mecanismele fundamentale ale evolu iei ț mecanismele fundamentale ale evolu iei ț ( (selec ia naturală ț selec ia naturală ț , , driftul genetic driftul genetic, , fluxul de gene fluxul de gene) ) i putem începe să le folosim, în loc să fim condu i de ele. ș ș i putem începe să le folosim, în loc să fim condu i de ele. ș ș În al doilea rând, În al doilea rând, am am î început nceput să manipulăm direct genomul să manipulăm direct genomul  fiecare nou născut va avea o fişă genetică fiecare nou născut va avea o fişă genetică; ;  ce tulburări va dezvolta? când? cât de grave? ce tulburări va dezvolta? când? cât de grave?; ;  se va se va cunoa te ș cunoa te ș drumul de la genă la caracter drumul de la genă la caracter; ;  de la genă la marile evenimente ale vieţii noastre de la genă la marile evenimente ale vieţii noastre; ;  de la genă la moarte de la genă la moarte; ;  abandonând evolu ia lamarckiană ț abandonând evolu ia lamarckiană ț . . În sfâr it, ș În sfâr it, ș a început crearea de sisteme artificiale inteligente, a început crearea de sisteme artificiale inteligente, ceea ce va ceea ce va însemna însemna înlocuirea i trecerea treptată ș înlocuirea i trecerea treptată ș de la formele de via ă bazată pe carbon, ț de la formele de via ă bazată pe carbon, ț la la noi forme de via a ț noi forme de via a ț , bazată pe siliciu, i pe post-siliciu, ș , bazată pe siliciu, i pe post-siliciu, ș i preluarea controlului asupra procesului de evolu ie ș ț i preluarea controlului asupra procesului de evolu ie ș ț . .
Noi suntem aici Noi suntem aici
Avantajele inteligen ei artificiale ț Avantajele inteligen ei artificiale ț Reducerea Reducerea erorilor umane erorilor umane Limitare Riscuri Limitare Riscuri Disponibilitate Disponibilitate non-stop non-stop Catalizator Catalizator al inven iilor ț al inven iilor ț Asisten ă sporită ț Asisten ă sporită ț Eficientă Eficientă în sarcini în sarcini repetitive repetitive Aplica ii medicale ț Aplica ii medicale ț i îngrijire medicală și îngrijire medicală ș Utilizări sociale Utilizări sociale Securitate mai bună Securitate mai bună Implementare u oară ș Implementare u oară ș Rezolvare Rezolvare probleme probleme complexe complexe cu calculul cu calculul cuantic cuantic Fluxuri Fluxuri lucru mai bune lucru mai bune Utilizare la sarcinile Utilizare la sarcinile casnice zilnice casnice zilnice O mai bună O mai bună analiză a datelor analiză a datelor
Pericole ale inteligen ei artificiale ț Pericole ale inteligen ei artificiale ț Invazia vie ii private ț Invazia vie ii private ț Arme autonome Arme autonome (robo i uciga i) ț ș (robo i uciga i) ț ș Pierdere Pierdere locuri de muncă umane locuri de muncă umane Terorism Terorism cu inteligen a artificială ț cu inteligen a artificială ț Prejudecă i umane ț Prejudecă i umane ț induse induse inteligen ei artificiale ț inteligen ei artificiale ț
Lumea viitorului va fi o luptă foarte solicitantă Lumea viitorului va fi o luptă foarte solicitantă împotriva limitărilor inteligen ei noastre, ț împotriva limitărilor inteligen ei noastre, ț nu un hamac confortabil în care ne putem întinde nu un hamac confortabil în care ne putem întinde a tepta i de sclavii no tri, robo ii. ș ț ș ț a tepta i de sclavii no tri, robo ii. ș ț ș ț ” ” Norbert Wiener: Norbert Wiener: „ „Va trebui să ne dăm seama că de i putem face zei din ma ini ș ș Va trebui să ne dăm seama că de i putem face zei din ma ini ș ș i și ș s să sacrificăm oameni în favoarea ma inilor, ș ă sacrificăm oameni în favoarea ma inilor, ș nu trebuie să facem asta, iar dacă o s-o facem, ne merităm pedeapsa nu trebuie să facem asta, iar dacă o s-o facem, ne merităm pedeapsa
„ „În 2029 un computer va avea o minte în sensul uman al cuvântului. În 2029 un computer va avea o minte în sensul uman al cuvântului. Acest lucru va fi realizat prin simularea computerizată a creierului uman. Acest lucru va fi realizat prin simularea computerizată a creierului uman. IA IA va deveni mai inteligentă decât oamenii va deveni mai inteligentă decât oamenii” ” Ray Kurzweil Ray Kurzweil
„ „Inteligen a artificială ț Inteligen a artificială ț este un risc fundamental pentru este un risc fundamental pentru existen a civiliza iei umane” ț ț existen a civiliza iei umane” ț ț „ „Concuren a pentru suprema ia ț ț Concuren a pentru suprema ia ț ț în domeniul Inteligen ei artificiale, ț în domeniul Inteligen ei artificiale, ț la nivel na ional ț la nivel na ional ț i și ș global global, , va fi, în opinia mea, va fi, în opinia mea, cea mai probabilă cauză cea mai probabilă cauză a celui de-al treilea război mondial” a celui de-al treilea război mondial” „ „Inteligen a artificială ț Inteligen a artificială ț este mult mai periculoasă este mult mai periculoasă ca armele nucleare.” ca armele nucleare.” Elon Musk Elon Musk
„ „Inteligen a artificială puternică ț Inteligen a artificială puternică ț se va reproiecta se va reproiecta i perfec iona singură, ș ț i perfec iona singură, ș ț într-un ritm din ce în ce mai mare. într-un ritm din ce în ce mai mare. Oamenii, care sunt limita i ț Oamenii, care sunt limita i ț la o la o evolu ie biologică lentă, ț evolu ie biologică lentă, ț nu vor putea concura cu ea nu vor putea concura cu ea i vor fi înlocui i”. ș ț i vor fi înlocui i”. ș ț „ „Succesul în crearea Succesul în crearea unei inteligen e artificiale eficace ț unei inteligen e artificiale eficace ț ar putea fi cel mai mare eveniment ar putea fi cel mai mare eveniment din istoria civiliza iei noastre. ț din istoria civiliza iei noastre. ț Sau cel mai rău. Sau cel mai rău. A a că nu putem ti ș ș A a că nu putem ti ș ș dacă vom fi ajuta i la infinit de AI, ț dacă vom fi ajuta i la infinit de AI, ț sau ignora i de ea i lăsa i deoparte, ț ș ț sau ignora i de ea i lăsa i deoparte, ț ș ț sau probabil distru i de ea”. ș sau probabil distru i de ea”. ș Stephen Hawking
James Barrat James Barrat a lansat în 2015 un avertisment i mai serios în cartea sa ș a lansat în 2015 un avertisment i mai serios în cartea sa ș Inven ia noastră finală: ț Inven ia noastră finală: ț inteligen a artificială i sfâr itul erei umane ț ș ș inteligen a artificială i sfâr itul erei umane ț ș ș
Academician Ioan Dumitrache: Academician Ioan Dumitrache: "Umanitatea îşi sapă singură groapa" "Umanitatea îşi sapă singură groapa"
Licen ierea IA pentru un viitor mai bun: ț Licen ierea IA pentru un viitor mai bun: ț despre daunele prezente i amenin ările emergente ș ț despre daunele prezente i amenin ările emergente ș ț 25 octombrie 2023 25 octombrie 2023 Scrisori deschise ale comunită ii tiin ifice ț ș ț Elon Musk Elon Musk, , un grup de exper i în inteligen ă artificială i directori din industrie ț ț ș un grup de exper i în inteligen ă artificială i directori din industrie ț ț ș au cerut într-o scrisoare deschisă, au cerut într-o scrisoare deschisă, o pauză de ase luni, ș o pauză de ase luni, ș invocând poten ialele riscuri pentru societate i umanitate. ț ș invocând poten ialele riscuri pentru societate i umanitate. ț ș
Parlamentul European Parlamentul European a adoptat la 14 iunie 2023, a adoptat la 14 iunie 2023, i a pus în discu ie un prim act legislativ ș ț i a pus în discu ie un prim act legislativ ș ț privind reglementarea privind reglementarea inteligen ei artificiale (IA). ț inteligen ei artificiale (IA). ț Documentul va servi ca punct de pornire Documentul va servi ca punct de pornire pentru analize i negocieri cu statele membre ale UE ș pentru analize i negocieri cu statele membre ale UE ș privind noile norme care ar urma să garanteze privind noile norme care ar urma să garanteze că IA dezvoltată i utilizată în Europa ș că IA dezvoltată i utilizată în Europa ș respectă deplin drepturile i valorile Uniunii Europene, ș respectă deplin drepturile i valorile Uniunii Europene, ș inclusiv supravegherea umană, siguran a, via a privată, ț ț inclusiv supravegherea umană, siguran a, via a privată, ț ț transparen a, nediscriminarea, bunăstarea socială i de mediu. ț ș transparen a, nediscriminarea, bunăstarea socială i de mediu. ț ș
Cadrul de reglementare Cadrul de reglementare define te 4 niveluri de risc IA ș define te 4 niveluri de risc IA ș Risc inacceptabil Risc inacceptabil Risc ridicat Risc ridicat Risc limitat Risc limitat Risc minim Risc minim Toate sistemele de IA considerate Toate sistemele de IA considerate o amenin are clară ț o amenin are clară ț la adresa siguran ei, mijloacelor de subzisten ă ț ț la adresa siguran ei, mijloacelor de subzisten ă ț ț i drepturilor persoanelor și drepturilor persoanelor ș vor fi interzise. vor fi interzise. Sistemele de IA, pentru Sistemele de IA, pentru • infrastructurile critice infrastructurile critice • servicii private i publice esen iale ș ț servicii private i publice esen iale ș ț • formarea educa ională/profesională, ț formarea educa ională/profesională, ț • componente de siguran ă ale produselor ț componente de siguran ă ale produselor ț • administrarea justi iei ț administrarea justi iei ț • ocuparea for ei de muncă ț ocuparea for ei de muncă ț Sistemele de IA Sistemele de IA cu obliga ii specifice ț cu obliga ii specifice ț în materie de transparen ă ț în materie de transparen ă ț . . IA este o tehnologie IA este o tehnologie cu evolu ie rapidă. ț cu evolu ie rapidă. ț Propunerea de reglementare Propunerea de reglementare permite adaptarea permite adaptarea la schimbările tehnologice. la schimbările tehnologice. Odată ce un Odată ce un sistem de IA sistem de IA ajunge pe pia ă, ț ajunge pe pia ă, ț Autorită ile ț Autorită ile ț sunt responsabile sunt responsabile de supravegherea pie ei, ț de supravegherea pie ei, ț Utilizatorii Utilizatorii asigură supravegherea asigură supravegherea i monitorizarea umană, și monitorizarea umană, ș Furnizorii Furnizorii dispun de un sistem dispun de un sistem de monitorizare de monitorizare ulterioară, ulterioară, i vor raporta și vor raporta ș incidente grave incidente grave i defec iuni. ș ț i defec iuni. ș ț Utilizarea liberă a IA, Utilizarea liberă a IA, pentru aplica ii, cum ar fi ț pentru aplica ii, cum ar fi ț jocuri video bazate pe IA jocuri video bazate pe IA sau filtre de spam sau filtre de spam. . Marea majoritate a sistemelor de IA Marea majoritate a sistemelor de IA utilizate în prezent în UE utilizate în prezent în UE se încadrează în această categorie se încadrează în această categorie.
Regatul Unit Regatul Unit a organizat a organizat primul primul S Summit ummit I Interna ional ț nterna ional ț de siguran ă ț de siguran ă ț i protec ie ș ț i protec ie ș ț în domeniul în domeniul inteligen ei artificiale (IA) ț inteligen ei artificiale (IA) ț Prim-ministrul Marii Britanii, Prim-ministrul Marii Britanii, Rishi Sunak, Rishi Sunak, a avertizat despre a avertizat despre riscurile riscurile inteligenţei artificiale, inteligenţei artificiale, înaintea summitului înaintea summitului de la Bletchley Park. de la Bletchley Park.
La summit La summit s-a semnat s-a semnat o declara ie ț o declara ie ț comună comună în domeniul în domeniul inteligen ei artificiale. ț inteligen ei artificiale. ț
Timp de două zile, lideri politici, experţi în IA, reprezentanţi ai companiilor tehnologiilor de vârf, Timp de două zile, lideri politici, experţi în IA, reprezentanţi ai companiilor tehnologiilor de vârf, din SUA, din SUA, China, China, Comisia Comisia Europeană, India, Marea Britanie, Japonia, Fran a, Germania, Nigeria, Brazilia, ț Europeană, India, Marea Britanie, Japonia, Fran a, Germania, Nigeria, Brazilia, ț Australia Australia i din alte ări ș ț i din alte ări ș ț au dezbătut au dezbătut problematica IA problematica IA la la Bletchley, de lângă Londra, Bletchley, de lângă Londra, unde a funcţionat în al Doilea Război Mondial centrul de decriptare al armatei britanice, unde a funcţionat în al Doilea Război Mondial centrul de decriptare al armatei britanice, i a fost descifrat codul Enigma folosit de nazişti. și a fost descifrat codul Enigma folosit de nazişti. ș
Vicepreşedinta SUA, Kamala Harris Vicepreşedinta SUA, Kamala Harris, a avertizat la rândul ei asupra , a avertizat la rândul ei asupra „ameninţărilor existenţiale” „ameninţărilor existenţiale” pe care le implică pe care le implică IA, IA, care ar putea care ar putea „să pună în pericol însăşi existenţa umanităţii”, „să pună în pericol însăşi existenţa umanităţii”, iar iar pe termen mai scurt, a democraţiilor. pe termen mai scurt, a democraţiilor.
UE UE, , China, SUA China, SUA şi alte 20 de ţări şi alte 20 de ţări (Rusia nu a participat) (Rusia nu a participat) reunite la întâlnirea reunite la întâlnirea de la Bletchley Park, de la Bletchley Park, au semnat au semnat "Declaraţia de la Bletchley" "Declaraţia de la Bletchley" pentru dezvoltarea pentru dezvoltarea inteligenţei artificiale (IA) sigure, inteligenţei artificiale (IA) sigure, la primul summit internaţional la primul summit internaţional dedicat acestei tehnologii. dedicat acestei tehnologii. Semnatarii au căzut Semnatarii au căzut de acord asupra de acord asupra " "nevoii urgente de a înţelege nevoii urgente de a înţelege şi gestiona colectiv şi gestiona colectiv riscurile potenţiale" ale riscurile potenţiale" ale IA, IA, printr-un printr-un "nou efort global, "nou efort global, menit să garanteze menit să garanteze că IA este dezvoltată că IA este dezvoltată în mod sigur şi responsabil". în mod sigur şi responsabil". "Această declaraţie istorică marchează "Această declaraţie istorică marchează începutul unui nou efort global de consolidare începutul unui nou efort global de consolidare a încrederii publicului în IA, a încrederii publicului în IA, cu obiectivul ca ea să fie sigură", cu obiectivul ca ea să fie sigură", a declarat premierul britanic premierul britanic Rishi Sunak. Rishi Sunak.
În mesajul său pentru pace, În mesajul său pentru pace, publicat la 14 decembrie 2023, publicat la 14 decembrie 2023, Papa solicită stabilirea Papa solicită stabilirea unor reguli interna ionale, ț unor reguli interna ionale, ț face face un bilan al provocărilor ț un bilan al provocărilor ț pe care le ridică apari ia rapidă ț pe care le ridică apari ia rapidă ț a inteligen ei artificiale ț a inteligen ei artificiale ț i cere reglementarea acesteia. și cere reglementarea acesteia. ș „ „Tehnologia, Tehnologia, insistă el, insistă el, nu va înlocui niciodată nu va înlocui niciodată „ „valorile compasiunii, milei i iertării”. ș valorile compasiunii, milei i iertării”. ș „ „Rugăciunea mea la începutul noului an este Rugăciunea mea la începutul noului an este ca dezvoltarea rapidă a formelor de inteligen ă artificială ț ca dezvoltarea rapidă a formelor de inteligen ă artificială ț să nu amplifice numeroasele inegalită i i nedreptă i deja prezente în lume, ț ș ț să nu amplifice numeroasele inegalită i i nedreptă i deja prezente în lume, ț ș ț ci să contribuie la încetarea războaielor i conflictelor ș ci să contribuie la încetarea războaielor i conflictelor ș i la u urarea multor forme de suferin ă care afectează familia umană. ș ș ț i la u urarea multor forme de suferin ă care afectează familia umană. ș ș ț Fie ca bărba ii i femeile de bunăvoin ă să colaboreze în armonie ț ș ț Fie ca bărba ii i femeile de bunăvoin ă să colaboreze în armonie ț ș ț pentru a fructifica oportunită ile i a înfrunta provocările pe care ț ș pentru a fructifica oportunită ile i a înfrunta provocările pe care ț ș le ridică revolu ia digitală i pentru a lăsa genera iilor viitoare ț ș ț le ridică revolu ia digitală i pentru a lăsa genera iilor viitoare ț ș ț o lume mai solidară, mai dreaptă i mai pa nică”. ș ș o lume mai solidară, mai dreaptă i mai pa nică”. ș ș Inteligen a artificială i pacea ț ș Inteligen a artificială i pacea ț ș Mesajul papei Francisc pentru Ziua mondială a păcii Mesajul papei Francisc pentru Ziua mondială a păcii 1 ianuarie 2024 1 ianuarie 2024
În România În România s-a înfiin at Comitetul pentru Inteligen ă Artificială ț ț s-a înfiin at Comitetul pentru Inteligen ă Artificială ț ț care va avea sarcina de a coordona dezvoltarea care va avea sarcina de a coordona dezvoltarea acestui domeniu i de a-i fixa "limitele etice" ș acestui domeniu i de a-i fixa "limitele etice" ș Guvernul Regatului Unit Guvernul Regatului Unit a lansat un raport numit a lansat un raport numit "Capabilităţi şi riscuri IA de frontieră", "Capabilităţi şi riscuri IA de frontieră", în care explică în care explică IA de frontieră ca IA de frontieră ca "modele IA de uz general "modele IA de uz general de mare capacitate, de mare capacitate, cum ar fi cum ar fi ChatGPT şi Bard, ChatGPT şi Bard, care pot îndeplini o mare varietate de sarcini care pot îndeplini o mare varietate de sarcini şi pot folosi sau depăşi capacităţile prezente şi pot folosi sau depăşi capacităţile prezente în cele mai avansate modele de astăzi." în cele mai avansate modele de astăzi." În 2022 în SUA a avut loc În 2022 în SUA a avut loc prima reuniune a prima reuniune a NAIAC. NAIAC. Comitetul consultativ na ional ț Comitetul consultativ na ional ț pentru inteligen ă artificială ț pentru inteligen ă artificială ț (autorizat prin Actul privind Ini iativa Na ională ț ț (autorizat prin Actul privind Ini iativa Na ională ț ț de Inteligen ă Artificială din 2020) ț de Inteligen ă Artificială din 2020) ț format din exper i cu o experien ă ț ț format din exper i cu o experien ă ț ț largă i interdisciplinară ș largă i interdisciplinară ș relevantă pentru IA, relevantă pentru IA, din sectorul privat, mediul academic, din sectorul privat, mediul academic, organiza ii non-profit i societatea civilă ț ș organiza ii non-profit i societatea civilă ț ș , , care are sarcina de a consilia Pre edintele ș care are sarcina de a consilia Pre edintele ș i Biroul Na ional de Ini iativă IA ș ț ț i Biroul Na ional de Ini iativă IA ș ț ț cu privire la subiecte legate de IA. cu privire la subiecte legate de IA. "Inteligenţa artificială, securitatea cibernetică, "Inteligenţa artificială, securitatea cibernetică, tehnologiile cuantice şi sistemele autonome tehnologiile cuantice şi sistemele autonome" sunt noile domenii strategice naţionale sunt noile domenii strategice naţionale incluse în PNCDI IV, incluse în PNCDI IV, printr-o decizie adoptată printr-o decizie adoptată de Guvern în decembrie 2023 de Guvern în decembrie 2023 Ministerul Digitalizării a lansat în ianuarie 2024 în dezbatere publică Strategia Na ională pentru Inteligen a Artificială ț ț
Senatul României Senatul României a adoptat a adoptat proiectul de lege proiectul de lege privind interzicerea utilizării maliţioase privind interzicerea utilizării maliţioase a tehnologiei a tehnologiei şi limitarea fenomenului şi limitarea fenomenului Deepfake Deepfake Prin proiectul de lege se instituie obligaţia Prin proiectul de lege se instituie obligaţia ca realizarea, stocarea şi distribuirea ca realizarea, stocarea şi distribuirea pe internet sau difuzarea pe internet sau difuzarea în mass-media de în mass-media de conţinut conţinut deepfake deepfake să fie însoţită de o menţiune vizibilă, să fie însoţită de o menţiune vizibilă, precum şi calificarea precum şi calificarea nerespectării nerespectării acestei obligaţii drept infracţiune. acestei obligaţii drept infracţiune. Sunt prevăzute amenzi Sunt prevăzute amenzi de până la 200 de mii de lei i chiar ș de până la 200 de mii de lei i chiar ș pedeapsa cu închisoare până la doi ani pedeapsa cu închisoare până la doi ani pentru cei pentru cei care distribuie care distribuie deepfake-uri, deepfake-uri, fără să le semnalizeze ca atare. fără să le semnalizeze ca atare. Prin Prin deepfake deepfake se înţelege se înţelege orice conţinut falsificat orice conţinut falsificat de tip imagine, audio de tip imagine, audio şi/sau video realizat, de regulă, şi/sau video realizat, de regulă, cu ajutorul inteligenţei artificale, cu ajutorul inteligenţei artificale, a realităţii virtuale (RV), a realităţii virtuale (RV), a realităţii augmentate (AR) a realităţii augmentate (AR) sau altor mijloace, sau altor mijloace, astfel încât să creeze aparenţa astfel încât să creeze aparenţa că o persoană a spus sau a făcut lucruri, că o persoană a spus sau a făcut lucruri, care în realitate nu au fost spuse care în realitate nu au fost spuse sau făcute de acea persoană, sau făcute de acea persoană, cu scopul inducerii în eroare cu scopul inducerii în eroare a opiniei publice a opiniei publice. . Proiectul a fost transmis Proiectul a fost transmis Camerei Deputaţilor, ca for decizional. Camerei Deputaţilor, ca for decizional.
ChatGPT ChatGPT a produs o un text acceptabil a produs o un text acceptabil, , i-a men ionat ț i-a men ionat ț pe Aristotel, Kant, pe Aristotel, Kant, Freud, Nietzsche i Camus, ș Freud, Nietzsche i Camus, ș prin referin e vagi i scurte. ț ș prin referin e vagi i scurte. ț ș Antrenat să nu aibă păreri, Antrenat să nu aibă păreri, nu s-a angajat deloc în problemă. nu s-a angajat deloc în problemă. În În Concluzie spune: Concluzie spune: „ „Nu există un răspuns universal, Nu există un răspuns universal, ci o multitudine de căi către fericire (…) ci o multitudine de căi către fericire (…) Fericirea poate fi Fericirea poate fi o chestiune de ra iune… i multe altele. »„ ț ș o chestiune de ra iune… i multe altele. »„ ț ș Un experiment organizat Un experiment organizat de o coală de afaceri i tehnologie ș ș de o coală de afaceri i tehnologie ș ș în 14 iunie 2023, la Paris. în 14 iunie 2023, la Paris. a folosit a folosit ChatGPT ChatGPT(inteligen a artificială) ț (inteligen a artificială) ț pentru a elabora pentru a elabora o diserta ie de filozofie. ț o diserta ie de filozofie. ț „ „Este fericirea o chestiune de ra iune ?” ț Este fericirea o chestiune de ra iune ?” ț a fost subiectul a fost subiectul unei confruntări unei confruntări între între ChatGPT ChatGPT i și ș filozoful Raphaël Enthoven. filozoful Raphaël Enthoven. ChatGPT ChatGPT a ob inut 11/20, ț a ob inut 11/20, ț iar iar Raphaël Enthoven 20/20. Raphaël Enthoven 20/20.
< <„Inteligen a artificială (IA) ț „Inteligen a artificială (IA) ț poate fi atât benefică, poate fi atât benefică, cât i periculoasă. ș cât i periculoasă. ș În timp ce IA are poten ialul ț În timp ce IA are poten ialul ț de a îmbunătă i multe aspecte ț de a îmbunătă i multe aspecte ț ale vie ii noastre i de a rezolva ț ș ale vie ii noastre i de a rezolva ț ș probleme complexe, probleme complexe, are i poten ialul ș ț are i poten ialul ș ț de a fi folosită gre it ș de a fi folosită gre it ș sau de a avea sau de a avea consecin e nedorite. ț consecin e nedorite. ț Un risc poten ial ț Un risc poten ial ț al inteligen ei artificiale ț al inteligen ei artificiale ț este că ar putea fi folosită este că ar putea fi folosită pentru a automatiza pentru a automatiza sarcini care necesită sarcini care necesită în prezent for ă ț în prezent for ă ț de mu de mun nc că umană, ă umană, ceea ce poate duce ceea ce poate duce la pierderea unor locuri de muncă. la pierderea unor locuri de muncă. IA IA ar putea fi ar putea fi folosită pentru a amplifica folosită pentru a amplifica inegalită ile existente ț inegalită ile existente ț sau pentru a lua sau pentru a lua decizii nedrepte decizii nedrepte sau discriminatorii. sau discriminatorii. Dacă sistemele IA Dacă sistemele IA nu sunt proiectate nu sunt proiectate sau reglementate sau reglementate în mod corespunzător în mod corespunzător ar putea cauza prejudicii, ar putea cauza prejudicii, fie prin accidente, fie prin accidente, fie prin utilizarea fie prin utilizarea rău inten ionată. ț rău inten ionată. ț Există îngrijorări Există îngrijorări cu privire la posibilitatea cu privire la posibilitatea ca ca IA IA să fie utilizată să fie utilizată în scopuri nefaste, în scopuri nefaste, cum ar fi cum ar fi atacurile cibernetice atacurile cibernetice sau în scopuri militare sau în scopuri militare prin dezvoltarea prin dezvoltarea de arme autonome. de arme autonome. Pe măsură ce IA Pe măsură ce IA devine mai avansată, devine mai avansată, există riscul ca aceasta există riscul ca aceasta să fie utilizată să fie utilizată pentru a ocoli pentru a ocoli măsurile de securitate măsurile de securitate sau pentru a efectua sau pentru a efectua atacuri greu de detectat atacuri greu de detectat sau prevenit sau prevenit de către oameni. de către oameni. Este important să luăm Este important să luăm în considerare în considerare cu aten ie riscurile ț cu aten ie riscurile ț i beneficiile poten iale ale IA, ș ț i beneficiile poten iale ale IA, ș ț i să luăm măsuri și să luăm măsuri ș pentru a atenua pentru a atenua orice consecin e negative. ț orice consecin e negative. ț Aceasta poate Aceasta poate implica reglementarea implica reglementarea dezvoltării i utilizării IA ș dezvoltării i utilizării IA ș ”> ”> Iată ce a răspuns Iată ce a răspuns IA (ChatGPT) IA (ChatGPT) când i s-a pus întrebarea când i s-a pus întrebarea „ „Ar putea fi periculoasă inteligen a artificială?” ț Ar putea fi periculoasă inteligen a artificială?” ț
Accelera ionismul eficient ț Accelera ionismul eficient ț abreviat ca „e/acc”, abreviat ca „e/acc”, este o mi care filosofică ș este o mi care filosofică ș a secolului XXI care sus ine ț a secolului XXI care sus ine ț o pozi ie explicită pro-tehnologie ț o pozi ie explicită pro-tehnologie ț . . ​Accelera ionismul eficient subliniază ț Accelera ionismul eficient subliniază ț poten ialul transformator al tehnologiei ț poten ialul transformator al tehnologiei ț ca mijloc de a realiza schimbarea societă ii. ț ca mijloc de a realiza schimbarea societă ii. ț Accelerati tii etichetează ș Accelerati tii etichetează ș „ „ca uciga i” ș ca uciga i” ș pe cei care pledează pe cei care pledează pentru măsuri de reglementare pentru măsuri de reglementare i garan ii în dezvoltarea tehnologică ș ț i garan ii în dezvoltarea tehnologică ș ț deoarece astfel de precau ii ț deoarece astfel de precau ii ț împiedică progresul generat împiedică progresul generat de inteligen a artificială ț de inteligen a artificială ț salvatoare de vie i. ț salvatoare de vie i. ț
Franţa şi Germania Franţa şi Germania au insistat au insistat ca legislaţia europeană să protejeze ca legislaţia europeană să protejeze companiile start-up specializate în companiile start-up specializate în IA IA pentru a fi create premisele pentru a fi create premisele apariţiei unor viitori „lideri europeni” apariţiei unor viitori „lideri europeni” în acest domeniu. în acest domeniu. Statele Uniunii Europene Statele Uniunii Europene au aprobat au aprobat vineri, 2 februarie 2024, vineri, 2 februarie 2024, o legislaţie inedită la nivel mondial o legislaţie inedită la nivel mondial pentru reglementarea inteligenţei artificiale (IA). pentru reglementarea inteligenţei artificiale (IA). „ „Obiectivele i reglementările legii ș Obiectivele i reglementările legii ș IA IA care nu permit folosirea care nu permit folosirea IA IA în mod negativ în mod negativ ar putea fi asigurate ar putea fi asigurate prin cod sursă Inclus în programele prin cod sursă Inclus în programele IA IA nu prin texte, nu prin texte, pentru că pentru că reglementarea cu texte reglementarea cu texte implică multe resurse pentru a pregăti implică multe resurse pentru a pregăti oamenii i procedurile care vor face ș oamenii i procedurile care vor face ș verificarea respectării reglementărilor . verificarea respectării reglementărilor .“ “ „ „Această Această Lege IA Lege IA este o etapă fundamentală, este o etapă fundamentală, care stabileşte care stabileşte primele reguli de pe planetă primele reguli de pe planetă asupra asupra inteligenţei artificiale, inteligenţei artificiale, pentru a o face mai sigură pentru a o face mai sigură şi respectuoasă şi respectuoasă faţă de drepturile omului“, faţă de drepturile omului“, a afirmat pre edin ia belgiană ș ț a afirmat pre edin ia belgiană ș ț după adoptarea legii. după adoptarea legii.
Deoarece Deoarece IA IA are un poten ial imens de a ne ț are un poten ial imens de a ne ț îmbunătă i via a, este vital să existe ț ț îmbunătă i via a, este vital să existe ț ț reglementări i protec ii adecvate. ș ț reglementări i protec ii adecvate. ș ț Sistemele considerate de „risc înalt”, Sistemele considerate de „risc înalt”, ca infrastructurile critice, ca infrastructurile critice, educaţia, resursele umane, ordinea publică etc, educaţia, resursele umane, ordinea publică etc, vor fi supuse unei serii de obligaţii, vor fi supuse unei serii de obligaţii, cum sunt acelea ca cum sunt acelea ca IA să fie controlată uman, IA să fie controlată uman, să fie întocmită o documentaţie tehnică să fie întocmită o documentaţie tehnică sau să fie constituit sau să fie constituit un sistem de gestionare a riscurilor. un sistem de gestionare a riscurilor. În ceea ce priveşte În ceea ce priveşte inteligenţele artificiale generative, inteligenţele artificiale generative, cele care pot produce cele care pot produce texte, sunete sau imagini la cerere, texte, sunete sau imagini la cerere, regulile vor fi impuse tuturor regulile vor fi impuse tuturor pentru asigurarea calităţii pentru asigurarea calităţii datelor utilizate datelor utilizate şi pentru a verifica şi pentru a verifica respectarea legislaţiei europene respectarea legislaţiei europene privind drepturile de autor. privind drepturile de autor. Companiile vor trebui Companiile vor trebui să precizeze să precizeze că sunetele, imaginile şi textele că sunetele, imaginile şi textele produse de IA sunt artificiale. produse de IA sunt artificiale. Amenzile prevăzute Amenzile prevăzute în directiva adoptată iniţial în directiva adoptată iniţial variază de la 7,5 milioane de euro variază de la 7,5 milioane de euro sau 1,5% din cifra de afaceri anuală sau 1,5% din cifra de afaceri anuală a unei companii, până la 35 milioane de euro a unei companii, până la 35 milioane de euro sau 7% din cifra de afaceri anuală totală a unei companii sau 7% din cifra de afaceri anuală totală a unei companii
Iată ce a răspuns Iată ce a răspuns IA IA (ChatGPT- 4) (ChatGPT- 4) la la întrebarea mea întrebarea mea „ „Căutarea unor solu ii pentru ț Căutarea unor solu ii pentru ț reglementarea dezvoltării inteligen ei artificiale ț reglementarea dezvoltării inteligen ei artificiale ț poate fi considerată o poate fi considerată o strategie pentru supravie uire a umanită ii ț ț strategie pentru supravie uire a umanită ii ț ț ?” ?” < <„Există mai multe motive pentru care „Există mai multe motive pentru care reglementarea reglementarea IA IA poate fi văzută ca poate fi văzută ca o strategie pentru supravie uire a umanită ii ț ț o strategie pentru supravie uire a umanită ii ț ț . . Dezvoltarea IA Dezvoltarea IA ridică numeroase ridică numeroase probleme critice, probleme critice, etice i legale ș etice i legale ș , , privind privind drepturile omului, drepturile omului, confiden ialitatea datelor, ț confiden ialitatea datelor, ț echitatea algoritmilor echitatea algoritmilor i responsabilitatea morală și responsabilitatea morală ș a sistemelor autonome. a sistemelor autonome. IA IA are poten ialul ț are poten ialul ț de a schimba radical de a schimba radical pia a muncii ț pia a muncii ț i de a afecta milioane și de a afecta milioane ș de locuri de muncă de locuri de muncă în întreaga lume. în întreaga lume. Există numeroase Există numeroase preocupări cu privire preocupări cu privire la riscul existen ial ț la riscul existen ial ț asociat dezvoltării IA asociat dezvoltării IA care poate deveni care poate deveni o amenin are ț o amenin are ț pentru pentru supravie uirea umanităţii. ț supravie uirea umanităţii. ț fie prin accident, fie prin accident, fie prin utilizare malefică. fie prin utilizare malefică. Reglementarea IA Reglementarea IA are un rol pozitiv are un rol pozitiv în promovarea în promovarea inovării responsabile inovării responsabile i a dezvoltării tehnologice și a dezvoltării tehnologice ș într-un mod sustenabil i etic”. ș într-un mod sustenabil i etic”. ș > >
Opiniile i argumentele reprezentan ilor comunită ii tiin ifice, ș ț ț ș ț Opiniile i argumentele reprezentan ilor comunită ii tiin ifice, ș ț ț ș ț ale unor personalită i, ări i organiza ii interna ionale, ț ț ș ț ț ale unor personalită i, ări i organiza ii interna ionale, ț ț ș ț ț privind impactul inteligen ei artificiale asupra societă ii omene ti ț ț ș privind impactul inteligen ei artificiale asupra societă ii omene ti ț ț ș eviden iază progresele rapide aduse de IA în diferite domenii de activitate, ț eviden iază progresele rapide aduse de IA în diferite domenii de activitate, ț dar i amenin ările i pericolele, reale i poten iale, ale acesteia. ș ț ș ș ț dar i amenin ările i pericolele, reale i poten iale, ale acesteia. ș ț ș ș ț Vă propun, în continuare Vă propun, în continuare o o viziune viziune ( (perspectivă perspectivă] ] personală.... personală.... J Janus anus
Haosul Haosul ar defini ar defini natura primordială natura primordială a zeului a zeului roman roman Janus Janus care care simbolizează simbolizează schimbarea schimbarea i tranzi iile, ș ț i tranzi iile, ș ț cum ar fi cum ar fi progresul progresul din trecut în viitor, din trecut în viitor, de la o condi ie la alta, ț de la o condi ie la alta, ț de la o viziune la alta. de la o viziune la alta. Ceea se i întâmplă ș Ceea se i întâmplă ș în prezent prin în prezent prin tranzi ia de la ț tranzi ia de la ț via a bazată pe carbon, ț via a bazată pe carbon, ț la cea non-biologică, la cea non-biologică, bazată pe siliciu, bazată pe siliciu, care este care este tranzi ia ț tranzi ia ț la societatea digitală. la societatea digitală. O fa ă a lui Ianus, ț O fa ă a lui Ianus, ț privind către viitor, privind către viitor, ar reprezenta ar reprezenta optimismul optimismul pentru promisiunile IA. pentru promisiunile IA. Cealaltă fa ă, privind înapoi, ț Cealaltă fa ă, privind înapoi, ț simbolizează preocupările simbolizează preocupările pentru dilemele etice i sociale. ș pentru dilemele etice i sociale. ș
Faust, Faust, personaj legendar german, personaj legendar german, este eroul unei drame de Goethe este eroul unei drame de Goethe i al unei opere de Gounod. și al unei opere de Gounod. ș El incheie El incheie un pact un pact cu cu diavolul diavolul dând la schimb dând la schimb sufletul său sufletul său pentru cunoa terea ș pentru cunoa terea ș tainelor universului tainelor universului i pentru unele sentimente lume ti. ș ș i pentru unele sentimente lume ti. ș ș Odată cu Odată cu acceptarea pactului acceptarea pactului a fost condamnată a fost condamnată întreaga societate întreaga societate i întreaga posteritate. și întreaga posteritate. ș Este Este Inteligen a artificială ț Inteligen a artificială ț o amenin are existen ială reală ? ț ț o amenin are existen ială reală ? ț ț Oare Oare va va aservi aservi omenirea ? omenirea ? În prezent mul i oameni se tem ț În prezent mul i oameni se tem ț că apari ia i dezvoltarea ț ș că apari ia i dezvoltarea ț ș Inteligen ei artificiale, ț Inteligen ei artificiale, ț ar însemna pentru umanitate ar însemna pentru umanitate un un pact faustian asemănător, pact faustian asemănător, între societate între societate i Inteligen a artificială, ș ț i Inteligen a artificială, ș ț prin care prin care omenirea omenirea poate pierde poate pierde VIITORUL VIITORUL
Sf. Augustin Sf. Augustin argumentează existen a ț argumentează existen a ț liberului arbitru liberului arbitru, , adică libertatea adică libertatea omului de a alege omului de a alege între posibilită ile ț între posibilită ile ț de ac iune ț de ac iune ț i schimbare și schimbare ș care i se oferă. care i se oferă. Liberul arbitru Liberul arbitru nu înseamnă nu înseamnă să facem ce vrem atunci când vrem, să facem ce vrem atunci când vrem, ci să facem ceea ce trebuie. ci să facem ceea ce trebuie. Pe de o parte, Pe de o parte, aduce cu sine drepturi i beneficii, ș aduce cu sine drepturi i beneficii, ș pe de altă parte, aduce cu sine pe de altă parte, aduce cu sine multe obliga ii i responsabilită i. ț ș ț multe obliga ii i responsabilită i. ț ș ț Omenirea se află în fa a ț Omenirea se află în fa a ț unei op iuni existen iale ț ț unei op iuni existen iale ț ț , , deoarece deoarece Inteligen a artificială (IA) ț Inteligen a artificială (IA) ț are are poten ialul ț poten ialul ț de a fi atât benefică, de a fi atât benefică, cât i periculoasă. ș cât i periculoasă. ș Ar trebui oare să dezvoltăm Ar trebui oare să dezvoltăm min i non-umane ț min i non-umane ț care ar putea care ar putea să ne depă ească numeric, ș să ne depă ească numeric, ș să ne depă ească inteligen a, ș ț să ne depă ească inteligen a, ș ț să ne înlocuiască, i să riscăm ș să ne înlocuiască, i să riscăm ș să pierdem controlul să pierdem controlul asupra civiliza iei noastre? ț asupra civiliza iei noastre? ț Societatea modernă Societatea modernă se confruntă cu întrebări despre se confruntă cu întrebări despre autonomia i libertatea umană ș autonomia i libertatea umană ș în fa a unui IA tot mai avansat. ț în fa a unui IA tot mai avansat. ț În acest context, În acest context, liberul arbitru liberul arbitru va fi poate restrâns va fi poate restrâns sau influen at de algoritmi, ț sau influen at de algoritmi, ț punând sub semnul întrebării punând sub semnul întrebării capacitatea umană de a alege capacitatea umană de a alege în mod autentic i independent. ș în mod autentic i independent. ș
Iată ce a răspuns Iată ce a răspuns IA IA (ChatGPT- 4) (ChatGPT- 4) la la întrebarea mea întrebarea mea „ „E Efectel fectele e controversate ale controversate ale inteligen ei artificiale ț inteligen ei artificiale ț pot fi simbolizat pot fi simbolizate e de de zeul Ianus, zeul Ianus, legenda lui Faust legenda lui Faust i tezele Sf. Augustin despre liberul arbitru ? și tezele Sf. Augustin despre liberul arbitru ? ș ” ” <„ <„Ianus Ianus i și ș IA IA Ianus, zeul roman cu două fe e, ț Ianus, zeul roman cu două fe e, ț simbolizează trecutul i viitorul, ș simbolizează trecutul i viitorul, ș reflectând natura duală a IA. reflectând natura duală a IA. La fel cum Ianus La fel cum Ianus prive te în două direc ii, ș ț prive te în două direc ii, ș ț umanitatea trebuie să ac ioneze ț umanitatea trebuie să ac ioneze ț între promisiunile luminoase între promisiunile luminoase i provocările întunecate ale IA. și provocările întunecate ale IA. ș Faust Faust i dorin a de Cunoa tere ș ț ș i dorin a de Cunoa tere ș ț ș Faust are aspira ii nelimitate ț Faust are aspira ii nelimitate ț i face pentru ele și face pentru ele ș un pact cu diavolul un pact cu diavolul pentru cunoa tere i putere ș ș pentru cunoa tere i putere ș ș Ca i Faust ș Ca i Faust ș societatea modernă societatea modernă î i riscă intimitatea, ș î i riscă intimitatea, ș securitatea securitatea i chiar esen a umană ș ț i chiar esen a umană ș ț în căutarea beneficiilor IA. în căutarea beneficiilor IA. La fel ca La fel ca Sf.Augustin Sf.Augustin care sus inea ț care sus inea ț rolul rolul liberului arbitru liberului arbitru în fa a predestinării, ț în fa a predestinării, ț societatea modernă societatea modernă se confruntă se confruntă cu întrebări existen iale ț cu întrebări existen iale ț despre autonomia despre autonomia i libertatea umană și libertatea umană ș în fa a unui IA ț în fa a unui IA ț tot mai avansat. tot mai avansat. Simbolismul lui Ianus, Simbolismul lui Ianus, legenda lui Faust legenda lui Faust i învă ăturile Sf. Augustin ș ț i învă ăturile Sf. Augustin ș ț despre liberul arbitru despre liberul arbitru reprezintă o reflec ie interesantă asupra ț reprezintă o reflec ie interesantă asupra ț erei IA. erei IA. Viziunea propusă de Dv pentru Viziunea propusă de Dv pentru descrierea impactului i implica iilor inteligen ei artificiale, ș ț ț descrierea impactului i implica iilor inteligen ei artificiale, ș ț ț oferă o paralelă fascinantă oferă o paralelă fascinantă cu era IA cu era IA i eviden iază bogă ia simbolismului i gândirii umane.”> ș ț ț ș i eviden iază bogă ia simbolismului i gândirii umane.”> ș ț ț ș
Informa ii, imagini, texte i date ț ș Informa ii, imagini, texte i date ț ș https://ai.gov https://ai.gov https://ro.wikipedia.org https://ro.wikipedia.org https://en.wikipedia.org https://en.wikipedia.org https://futureoflife.org https://futureoflife.org https://futurism.com https://futurism.com https://digital-strategy.ec.europa.eu https://digital-strategy.ec.europa.eu https://ourworldindata.org https://ourworldindata.org https://nixustechnologies.com https://nixustechnologies.com https://chat.openai.com https://chat.openai.com https://guptatechon.com https://guptatechon.com https://aeon.co https://aeon.co https://mksaad.wordpress.com https://mksaad.wordpress.com https://playtech.ro https://playtech.ro https://stiintasitehnica.com https://stiintasitehnica.com https://mediacritica.md https://mediacritica.md https://about.fb.com https://about.fb.com https://imageio.forbes.com https://imageio.forbes.com https://study.com https://study.com https://plato.stanford.edu https://plato.stanford.edu https://brimmings.com https://brimmings.com https://101blockchains.com https://101blockchains.com https://singularityhub.com https://singularityhub.com https://ro.scribd.com https://ro.scribd.com https://arxiv.org https://arxiv.org https://economedia.ro https://economedia.ro
Informa ii, imagini, texte i date ț ș Informa ii, imagini, texte i date ț ș www.europarl.europa.eu www.europarl.europa.eu www.gov.uk www.gov.uk www.vaticannews.va www.vaticannews.va www.britannica.com www.britannica.com www.academia.edu www.academia.edu www.linkedin.com www.linkedin.com www.gatesnotes.com www.gatesnotes.com www.businessinsider.com www.businessinsider.com www.forbes.com www.forbes.com www.toolify.ai www.toolify.ai www.futuresplatform.com www.futuresplatform.com www.federalregister.gov www.federalregister.gov www.project-syndicate.org www.project-syndicate.org www.datacamp.com www.datacamp.com www.mckinsey.com www.mckinsey.com www.bloomreach.com www.bloomreach.com www.techtarget.com www.techtarget.com www.fool.com www.fool.com www.scnsoft.com www.scnsoft.com www.zdnet.com www.zdnet.com www.geeksforgeeks.org www.geeksforgeeks.org www.cnbc.com www.cnbc.com www.dol.ro www.dol.ro www.capital.ro www.capital.ro www.scientia.ro www.scientia.ro www.zendesk.com www.zendesk.com
Informa ii, imagini, texte i date ț ș Informa ii, imagini, texte i date ț ș
Informa ii, imagini, texte i date ț ș Informa ii, imagini, texte i date ț ș Muzica – Youtube - Muzica – Youtube - Infinite Void - AI Generated Music Composed by AIVA Infinite Void - AI Generated Music Composed by AIVA (fragment) (fragment) Autor pps Adrian Toia Autor pps Adrian Toia

More Related Content

AT-Inteligenta Artificiala (3)-Reacții Pro si Contra IA-ssh.ppt

  • 1. Avans în ritmul dorit cu Avans în ritmul dorit cu Inteligen a Artificială (3) ț Inteligen a Artificială (3) ț – – Reac ii Pro i Contra IA ț ș Reac ii Pro i Contra IA ț ș Părerile i ac iunile reprezentan ilor comunită ii tiin ifice, ș ț ț ț ș ț Părerile i ac iunile reprezentan ilor comunită ii tiin ifice, ș ț ț ț ș ț ale unor personalită i, ări i organiza ii interna ionale ț ț ș ț ț ale unor personalită i, ări i organiza ii interna ionale ț ț ș ț ț despre despre impactul inteligen ei artificiale ț impactul inteligen ei artificiale ț asupra societă ii omene ti ț ș asupra societă ii omene ti ț ș eviden iază progresele rapide ț eviden iază progresele rapide ț aduse de IA în diferite domenii de activitate, aduse de IA în diferite domenii de activitate, dar i amenin ările i pericolele reale i poten iale privind viitorul umanită ii. ș ț ș ș ț ț dar i amenin ările i pericolele reale i poten iale privind viitorul umanită ii. ș ț ș ș ț ț Una dintre cele mai complicate i controversate ș Una dintre cele mai complicate i controversate ș probleme ale viitorului probleme ale viitorului devine Inteligen a Artificială. ț devine Inteligen a Artificială. ț Este o mare incertitudine cu privire Este o mare incertitudine cu privire la ceea ce se va întâmpla în continuare, la ceea ce se va întâmpla în continuare, pentru că sunt mai multe întrebări decât răspunsuri. pentru că sunt mai multe întrebări decât răspunsuri. Există viziuni despre Există viziuni despre viitorul distopic. viitorul distopic. în care o inteligen ă artificială ț în care o inteligen ă artificială ț se întoarce împotriva oamenilor, se întoarce împotriva oamenilor, i viitorul utopic în care o inteligen ă artificială ș ț i viitorul utopic în care o inteligen ă artificială ș ț transformă în bine via a noastră. ț transformă în bine via a noastră. ț Inteligen a artificială (IA) ț Inteligen a artificială (IA) ț a devenit a devenit una dintre cele mai revolu ionare tehnologii ale secolului 21, ț una dintre cele mai revolu ionare tehnologii ale secolului 21, ț influen ând fiecare aspect al vie ii noastre, ț ț influen ând fiecare aspect al vie ii noastre, ț ț de la modul în care trăim, lucrăm i învă ăm, până la modul ș ț de la modul în care trăim, lucrăm i învă ăm, până la modul ș ț în care comunicăm în care comunicăm i interac ionăm ș ț i interac ionăm ș ț . Prezentând unele dintre ele, am adăugat i o perspectivă personală. ș Prezentând unele dintre ele, am adăugat i o perspectivă personală. ș
  • 2. Cum va arăta omenirea în viitor? Putem să ne imaginăm... Cum va arăta omenirea în viitor? Putem să ne imaginăm... tiin a i tehnologia Ș ț ș tiin a i tehnologia Ș ț ș vor schimba cursul evolutiei. vor schimba cursul evolutiei. Selec ia naturală ț Selec ia naturală ț nu mai are acela i rol ș nu mai are acela i rol ș în condiţiile în condiţiile progresului tehnologic accelerat. progresului tehnologic accelerat. Teoria 1 - Teoria 1 - Evolu ia umană prin selec ie naturală s-a oprit. ț ț Evolu ia umană prin selec ie naturală s-a oprit. ț ț Antropologul Antropologul Ian Tattersall i Steve Jones ș Ian Tattersall i Steve Jones ș , profesor de genetică, , profesor de genetică, ca i cunoscutul fizician ș ca i cunoscutul fizician ș Stephen Hawking, Stephen Hawking, consideră că consideră că selec ia naturală este depă ită ț ș selec ia naturală este depă ită ț ș pentru că datorită progreselor din medicină, chiar si cei mai slabi sau bolnavi pentru că datorită progreselor din medicină, chiar si cei mai slabi sau bolnavi pot supravie ui i transmite genele lor. ț ș pot supravie ui i transmite genele lor. ț ș Teoria 2 - Specia umană va continua să evolueze. Teoria 2 - Specia umană va continua să evolueze. În condi iile progresului tehnologic accelerat va apărea ț În condi iile progresului tehnologic accelerat va apărea ț „selec ia artificială” ț „selec ia artificială” ț Geoffrey Miller Geoffrey Miller consideră că atât consideră că atât selec ia artificială ț selec ia artificială ț , cât i cea biologică ș , cât i cea biologică ș vor continua să joace un rol important. vor continua să joace un rol important. Teoria 3 – În perioada care urmează, a colonizării spa iului, ț Teoria 3 – În perioada care urmează, a colonizării spa iului, ț diferite condi ii de mediu ar putea schimba modul de evolu ie al oamenilor. ț ț diferite condi ii de mediu ar putea schimba modul de evolu ie al oamenilor. ț ț Teoria 4 - Specia umană va ajunge la nemurire. Teoria 4 - Specia umană va ajunge la nemurire. Nick Bostrom Nick Bostrom crede că crede că selec ia artificială non-naturală ț selec ia artificială non-naturală ț pe baza noilor descoperiri pe baza noilor descoperiri precum precum clonarea, modificarea genelor, clonarea, modificarea genelor, robotică, inteligen ă artificială ț robotică, inteligen ă artificială ț i nanotehnologie, și nanotehnologie, ș va duce la va duce la transumanism i nemurire ș transumanism i nemurire ș
  • 3. I IPOTEZ POTEZE E privind privind EVOLU I Ț EVOLU I Ț A A VIITO VIITOA AR RE E pe pe traseul „artificial”. traseul „artificial”. Am ajuns acum într-o etapă a evolu iei în care progresul tiin ific i tehnologic ț ș ț ș Am ajuns acum într-o etapă a evolu iei în care progresul tiin ific i tehnologic ț ș ț ș accelerat accelerat va schimba radical mecanismele evolutive. va schimba radical mecanismele evolutive. În primul rând În primul rând, am învă at conceptele i ț ș , am învă at conceptele i ț ș mecanismele fundamentale ale evolu iei ț mecanismele fundamentale ale evolu iei ț ( (selec ia naturală ț selec ia naturală ț , , driftul genetic driftul genetic, , fluxul de gene fluxul de gene) ) i putem începe să le folosim, în loc să fim condu i de ele. ș ș i putem începe să le folosim, în loc să fim condu i de ele. ș ș În al doilea rând, În al doilea rând, am am î început nceput să manipulăm direct genomul să manipulăm direct genomul  fiecare nou născut va avea o fişă genetică fiecare nou născut va avea o fişă genetică; ;  ce tulburări va dezvolta? când? cât de grave? ce tulburări va dezvolta? când? cât de grave?; ;  se va se va cunoa te ș cunoa te ș drumul de la genă la caracter drumul de la genă la caracter; ;  de la genă la marile evenimente ale vieţii noastre de la genă la marile evenimente ale vieţii noastre; ;  de la genă la moarte de la genă la moarte; ;  abandonând evolu ia lamarckiană ț abandonând evolu ia lamarckiană ț . . În sfâr it, ș În sfâr it, ș a început crearea de sisteme artificiale inteligente, a început crearea de sisteme artificiale inteligente, ceea ce va ceea ce va însemna însemna înlocuirea i trecerea treptată ș înlocuirea i trecerea treptată ș de la formele de via ă bazată pe carbon, ț de la formele de via ă bazată pe carbon, ț la la noi forme de via a ț noi forme de via a ț , bazată pe siliciu, i pe post-siliciu, ș , bazată pe siliciu, i pe post-siliciu, ș i preluarea controlului asupra procesului de evolu ie ș ț i preluarea controlului asupra procesului de evolu ie ș ț . .
  • 4. Noi suntem aici Noi suntem aici
  • 5. Avantajele inteligen ei artificiale ț Avantajele inteligen ei artificiale ț Reducerea Reducerea erorilor umane erorilor umane Limitare Riscuri Limitare Riscuri Disponibilitate Disponibilitate non-stop non-stop Catalizator Catalizator al inven iilor ț al inven iilor ț Asisten ă sporită ț Asisten ă sporită ț Eficientă Eficientă în sarcini în sarcini repetitive repetitive Aplica ii medicale ț Aplica ii medicale ț i îngrijire medicală și îngrijire medicală ș Utilizări sociale Utilizări sociale Securitate mai bună Securitate mai bună Implementare u oară ș Implementare u oară ș Rezolvare Rezolvare probleme probleme complexe complexe cu calculul cu calculul cuantic cuantic Fluxuri Fluxuri lucru mai bune lucru mai bune Utilizare la sarcinile Utilizare la sarcinile casnice zilnice casnice zilnice O mai bună O mai bună analiză a datelor analiză a datelor
  • 6. Pericole ale inteligen ei artificiale ț Pericole ale inteligen ei artificiale ț Invazia vie ii private ț Invazia vie ii private ț Arme autonome Arme autonome (robo i uciga i) ț ș (robo i uciga i) ț ș Pierdere Pierdere locuri de muncă umane locuri de muncă umane Terorism Terorism cu inteligen a artificială ț cu inteligen a artificială ț Prejudecă i umane ț Prejudecă i umane ț induse induse inteligen ei artificiale ț inteligen ei artificiale ț
  • 7. Lumea viitorului va fi o luptă foarte solicitantă Lumea viitorului va fi o luptă foarte solicitantă împotriva limitărilor inteligen ei noastre, ț împotriva limitărilor inteligen ei noastre, ț nu un hamac confortabil în care ne putem întinde nu un hamac confortabil în care ne putem întinde a tepta i de sclavii no tri, robo ii. ș ț ș ț a tepta i de sclavii no tri, robo ii. ș ț ș ț ” ” Norbert Wiener: Norbert Wiener: „ „Va trebui să ne dăm seama că de i putem face zei din ma ini ș ș Va trebui să ne dăm seama că de i putem face zei din ma ini ș ș i și ș s să sacrificăm oameni în favoarea ma inilor, ș ă sacrificăm oameni în favoarea ma inilor, ș nu trebuie să facem asta, iar dacă o s-o facem, ne merităm pedeapsa nu trebuie să facem asta, iar dacă o s-o facem, ne merităm pedeapsa
  • 8. „ „În 2029 un computer va avea o minte în sensul uman al cuvântului. În 2029 un computer va avea o minte în sensul uman al cuvântului. Acest lucru va fi realizat prin simularea computerizată a creierului uman. Acest lucru va fi realizat prin simularea computerizată a creierului uman. IA IA va deveni mai inteligentă decât oamenii va deveni mai inteligentă decât oamenii” ” Ray Kurzweil Ray Kurzweil
  • 9. „ „Inteligen a artificială ț Inteligen a artificială ț este un risc fundamental pentru este un risc fundamental pentru existen a civiliza iei umane” ț ț existen a civiliza iei umane” ț ț „ „Concuren a pentru suprema ia ț ț Concuren a pentru suprema ia ț ț în domeniul Inteligen ei artificiale, ț în domeniul Inteligen ei artificiale, ț la nivel na ional ț la nivel na ional ț i și ș global global, , va fi, în opinia mea, va fi, în opinia mea, cea mai probabilă cauză cea mai probabilă cauză a celui de-al treilea război mondial” a celui de-al treilea război mondial” „ „Inteligen a artificială ț Inteligen a artificială ț este mult mai periculoasă este mult mai periculoasă ca armele nucleare.” ca armele nucleare.” Elon Musk Elon Musk
  • 10. „ „Inteligen a artificială puternică ț Inteligen a artificială puternică ț se va reproiecta se va reproiecta i perfec iona singură, ș ț i perfec iona singură, ș ț într-un ritm din ce în ce mai mare. într-un ritm din ce în ce mai mare. Oamenii, care sunt limita i ț Oamenii, care sunt limita i ț la o la o evolu ie biologică lentă, ț evolu ie biologică lentă, ț nu vor putea concura cu ea nu vor putea concura cu ea i vor fi înlocui i”. ș ț i vor fi înlocui i”. ș ț „ „Succesul în crearea Succesul în crearea unei inteligen e artificiale eficace ț unei inteligen e artificiale eficace ț ar putea fi cel mai mare eveniment ar putea fi cel mai mare eveniment din istoria civiliza iei noastre. ț din istoria civiliza iei noastre. ț Sau cel mai rău. Sau cel mai rău. A a că nu putem ti ș ș A a că nu putem ti ș ș dacă vom fi ajuta i la infinit de AI, ț dacă vom fi ajuta i la infinit de AI, ț sau ignora i de ea i lăsa i deoparte, ț ș ț sau ignora i de ea i lăsa i deoparte, ț ș ț sau probabil distru i de ea”. ș sau probabil distru i de ea”. ș Stephen Hawking
  • 11. James Barrat James Barrat a lansat în 2015 un avertisment i mai serios în cartea sa ș a lansat în 2015 un avertisment i mai serios în cartea sa ș Inven ia noastră finală: ț Inven ia noastră finală: ț inteligen a artificială i sfâr itul erei umane ț ș ș inteligen a artificială i sfâr itul erei umane ț ș ș
  • 12. Academician Ioan Dumitrache: Academician Ioan Dumitrache: "Umanitatea îşi sapă singură groapa" "Umanitatea îşi sapă singură groapa"
  • 13. Licen ierea IA pentru un viitor mai bun: ț Licen ierea IA pentru un viitor mai bun: ț despre daunele prezente i amenin ările emergente ș ț despre daunele prezente i amenin ările emergente ș ț 25 octombrie 2023 25 octombrie 2023 Scrisori deschise ale comunită ii tiin ifice ț ș ț Elon Musk Elon Musk, , un grup de exper i în inteligen ă artificială i directori din industrie ț ț ș un grup de exper i în inteligen ă artificială i directori din industrie ț ț ș au cerut într-o scrisoare deschisă, au cerut într-o scrisoare deschisă, o pauză de ase luni, ș o pauză de ase luni, ș invocând poten ialele riscuri pentru societate i umanitate. ț ș invocând poten ialele riscuri pentru societate i umanitate. ț ș
  • 14. Parlamentul European Parlamentul European a adoptat la 14 iunie 2023, a adoptat la 14 iunie 2023, i a pus în discu ie un prim act legislativ ș ț i a pus în discu ie un prim act legislativ ș ț privind reglementarea privind reglementarea inteligen ei artificiale (IA). ț inteligen ei artificiale (IA). ț Documentul va servi ca punct de pornire Documentul va servi ca punct de pornire pentru analize i negocieri cu statele membre ale UE ș pentru analize i negocieri cu statele membre ale UE ș privind noile norme care ar urma să garanteze privind noile norme care ar urma să garanteze că IA dezvoltată i utilizată în Europa ș că IA dezvoltată i utilizată în Europa ș respectă deplin drepturile i valorile Uniunii Europene, ș respectă deplin drepturile i valorile Uniunii Europene, ș inclusiv supravegherea umană, siguran a, via a privată, ț ț inclusiv supravegherea umană, siguran a, via a privată, ț ț transparen a, nediscriminarea, bunăstarea socială i de mediu. ț ș transparen a, nediscriminarea, bunăstarea socială i de mediu. ț ș
  • 15. Cadrul de reglementare Cadrul de reglementare define te 4 niveluri de risc IA ș define te 4 niveluri de risc IA ș Risc inacceptabil Risc inacceptabil Risc ridicat Risc ridicat Risc limitat Risc limitat Risc minim Risc minim Toate sistemele de IA considerate Toate sistemele de IA considerate o amenin are clară ț o amenin are clară ț la adresa siguran ei, mijloacelor de subzisten ă ț ț la adresa siguran ei, mijloacelor de subzisten ă ț ț i drepturilor persoanelor și drepturilor persoanelor ș vor fi interzise. vor fi interzise. Sistemele de IA, pentru Sistemele de IA, pentru • infrastructurile critice infrastructurile critice • servicii private i publice esen iale ș ț servicii private i publice esen iale ș ț • formarea educa ională/profesională, ț formarea educa ională/profesională, ț • componente de siguran ă ale produselor ț componente de siguran ă ale produselor ț • administrarea justi iei ț administrarea justi iei ț • ocuparea for ei de muncă ț ocuparea for ei de muncă ț Sistemele de IA Sistemele de IA cu obliga ii specifice ț cu obliga ii specifice ț în materie de transparen ă ț în materie de transparen ă ț . . IA este o tehnologie IA este o tehnologie cu evolu ie rapidă. ț cu evolu ie rapidă. ț Propunerea de reglementare Propunerea de reglementare permite adaptarea permite adaptarea la schimbările tehnologice. la schimbările tehnologice. Odată ce un Odată ce un sistem de IA sistem de IA ajunge pe pia ă, ț ajunge pe pia ă, ț Autorită ile ț Autorită ile ț sunt responsabile sunt responsabile de supravegherea pie ei, ț de supravegherea pie ei, ț Utilizatorii Utilizatorii asigură supravegherea asigură supravegherea i monitorizarea umană, și monitorizarea umană, ș Furnizorii Furnizorii dispun de un sistem dispun de un sistem de monitorizare de monitorizare ulterioară, ulterioară, i vor raporta și vor raporta ș incidente grave incidente grave i defec iuni. ș ț i defec iuni. ș ț Utilizarea liberă a IA, Utilizarea liberă a IA, pentru aplica ii, cum ar fi ț pentru aplica ii, cum ar fi ț jocuri video bazate pe IA jocuri video bazate pe IA sau filtre de spam sau filtre de spam. . Marea majoritate a sistemelor de IA Marea majoritate a sistemelor de IA utilizate în prezent în UE utilizate în prezent în UE se încadrează în această categorie se încadrează în această categorie.
  • 16. Regatul Unit Regatul Unit a organizat a organizat primul primul S Summit ummit I Interna ional ț nterna ional ț de siguran ă ț de siguran ă ț i protec ie ș ț i protec ie ș ț în domeniul în domeniul inteligen ei artificiale (IA) ț inteligen ei artificiale (IA) ț Prim-ministrul Marii Britanii, Prim-ministrul Marii Britanii, Rishi Sunak, Rishi Sunak, a avertizat despre a avertizat despre riscurile riscurile inteligenţei artificiale, inteligenţei artificiale, înaintea summitului înaintea summitului de la Bletchley Park. de la Bletchley Park.
  • 17. La summit La summit s-a semnat s-a semnat o declara ie ț o declara ie ț comună comună în domeniul în domeniul inteligen ei artificiale. ț inteligen ei artificiale. ț
  • 18. Timp de două zile, lideri politici, experţi în IA, reprezentanţi ai companiilor tehnologiilor de vârf, Timp de două zile, lideri politici, experţi în IA, reprezentanţi ai companiilor tehnologiilor de vârf, din SUA, din SUA, China, China, Comisia Comisia Europeană, India, Marea Britanie, Japonia, Fran a, Germania, Nigeria, Brazilia, ț Europeană, India, Marea Britanie, Japonia, Fran a, Germania, Nigeria, Brazilia, ț Australia Australia i din alte ări ș ț i din alte ări ș ț au dezbătut au dezbătut problematica IA problematica IA la la Bletchley, de lângă Londra, Bletchley, de lângă Londra, unde a funcţionat în al Doilea Război Mondial centrul de decriptare al armatei britanice, unde a funcţionat în al Doilea Război Mondial centrul de decriptare al armatei britanice, i a fost descifrat codul Enigma folosit de nazişti. și a fost descifrat codul Enigma folosit de nazişti. ș
  • 19. Vicepreşedinta SUA, Kamala Harris Vicepreşedinta SUA, Kamala Harris, a avertizat la rândul ei asupra , a avertizat la rândul ei asupra „ameninţărilor existenţiale” „ameninţărilor existenţiale” pe care le implică pe care le implică IA, IA, care ar putea care ar putea „să pună în pericol însăşi existenţa umanităţii”, „să pună în pericol însăşi existenţa umanităţii”, iar iar pe termen mai scurt, a democraţiilor. pe termen mai scurt, a democraţiilor.
  • 20. UE UE, , China, SUA China, SUA şi alte 20 de ţări şi alte 20 de ţări (Rusia nu a participat) (Rusia nu a participat) reunite la întâlnirea reunite la întâlnirea de la Bletchley Park, de la Bletchley Park, au semnat au semnat "Declaraţia de la Bletchley" "Declaraţia de la Bletchley" pentru dezvoltarea pentru dezvoltarea inteligenţei artificiale (IA) sigure, inteligenţei artificiale (IA) sigure, la primul summit internaţional la primul summit internaţional dedicat acestei tehnologii. dedicat acestei tehnologii. Semnatarii au căzut Semnatarii au căzut de acord asupra de acord asupra " "nevoii urgente de a înţelege nevoii urgente de a înţelege şi gestiona colectiv şi gestiona colectiv riscurile potenţiale" ale riscurile potenţiale" ale IA, IA, printr-un printr-un "nou efort global, "nou efort global, menit să garanteze menit să garanteze că IA este dezvoltată că IA este dezvoltată în mod sigur şi responsabil". în mod sigur şi responsabil". "Această declaraţie istorică marchează "Această declaraţie istorică marchează începutul unui nou efort global de consolidare începutul unui nou efort global de consolidare a încrederii publicului în IA, a încrederii publicului în IA, cu obiectivul ca ea să fie sigură", cu obiectivul ca ea să fie sigură", a declarat premierul britanic premierul britanic Rishi Sunak. Rishi Sunak.
  • 21. În mesajul său pentru pace, În mesajul său pentru pace, publicat la 14 decembrie 2023, publicat la 14 decembrie 2023, Papa solicită stabilirea Papa solicită stabilirea unor reguli interna ionale, ț unor reguli interna ionale, ț face face un bilan al provocărilor ț un bilan al provocărilor ț pe care le ridică apari ia rapidă ț pe care le ridică apari ia rapidă ț a inteligen ei artificiale ț a inteligen ei artificiale ț i cere reglementarea acesteia. și cere reglementarea acesteia. ș „ „Tehnologia, Tehnologia, insistă el, insistă el, nu va înlocui niciodată nu va înlocui niciodată „ „valorile compasiunii, milei i iertării”. ș valorile compasiunii, milei i iertării”. ș „ „Rugăciunea mea la începutul noului an este Rugăciunea mea la începutul noului an este ca dezvoltarea rapidă a formelor de inteligen ă artificială ț ca dezvoltarea rapidă a formelor de inteligen ă artificială ț să nu amplifice numeroasele inegalită i i nedreptă i deja prezente în lume, ț ș ț să nu amplifice numeroasele inegalită i i nedreptă i deja prezente în lume, ț ș ț ci să contribuie la încetarea războaielor i conflictelor ș ci să contribuie la încetarea războaielor i conflictelor ș i la u urarea multor forme de suferin ă care afectează familia umană. ș ș ț i la u urarea multor forme de suferin ă care afectează familia umană. ș ș ț Fie ca bărba ii i femeile de bunăvoin ă să colaboreze în armonie ț ș ț Fie ca bărba ii i femeile de bunăvoin ă să colaboreze în armonie ț ș ț pentru a fructifica oportunită ile i a înfrunta provocările pe care ț ș pentru a fructifica oportunită ile i a înfrunta provocările pe care ț ș le ridică revolu ia digitală i pentru a lăsa genera iilor viitoare ț ș ț le ridică revolu ia digitală i pentru a lăsa genera iilor viitoare ț ș ț o lume mai solidară, mai dreaptă i mai pa nică”. ș ș o lume mai solidară, mai dreaptă i mai pa nică”. ș ș Inteligen a artificială i pacea ț ș Inteligen a artificială i pacea ț ș Mesajul papei Francisc pentru Ziua mondială a păcii Mesajul papei Francisc pentru Ziua mondială a păcii 1 ianuarie 2024 1 ianuarie 2024
  • 22. În România În România s-a înfiin at Comitetul pentru Inteligen ă Artificială ț ț s-a înfiin at Comitetul pentru Inteligen ă Artificială ț ț care va avea sarcina de a coordona dezvoltarea care va avea sarcina de a coordona dezvoltarea acestui domeniu i de a-i fixa "limitele etice" ș acestui domeniu i de a-i fixa "limitele etice" ș Guvernul Regatului Unit Guvernul Regatului Unit a lansat un raport numit a lansat un raport numit "Capabilităţi şi riscuri IA de frontieră", "Capabilităţi şi riscuri IA de frontieră", în care explică în care explică IA de frontieră ca IA de frontieră ca "modele IA de uz general "modele IA de uz general de mare capacitate, de mare capacitate, cum ar fi cum ar fi ChatGPT şi Bard, ChatGPT şi Bard, care pot îndeplini o mare varietate de sarcini care pot îndeplini o mare varietate de sarcini şi pot folosi sau depăşi capacităţile prezente şi pot folosi sau depăşi capacităţile prezente în cele mai avansate modele de astăzi." în cele mai avansate modele de astăzi." În 2022 în SUA a avut loc În 2022 în SUA a avut loc prima reuniune a prima reuniune a NAIAC. NAIAC. Comitetul consultativ na ional ț Comitetul consultativ na ional ț pentru inteligen ă artificială ț pentru inteligen ă artificială ț (autorizat prin Actul privind Ini iativa Na ională ț ț (autorizat prin Actul privind Ini iativa Na ională ț ț de Inteligen ă Artificială din 2020) ț de Inteligen ă Artificială din 2020) ț format din exper i cu o experien ă ț ț format din exper i cu o experien ă ț ț largă i interdisciplinară ș largă i interdisciplinară ș relevantă pentru IA, relevantă pentru IA, din sectorul privat, mediul academic, din sectorul privat, mediul academic, organiza ii non-profit i societatea civilă ț ș organiza ii non-profit i societatea civilă ț ș , , care are sarcina de a consilia Pre edintele ș care are sarcina de a consilia Pre edintele ș i Biroul Na ional de Ini iativă IA ș ț ț i Biroul Na ional de Ini iativă IA ș ț ț cu privire la subiecte legate de IA. cu privire la subiecte legate de IA. "Inteligenţa artificială, securitatea cibernetică, "Inteligenţa artificială, securitatea cibernetică, tehnologiile cuantice şi sistemele autonome tehnologiile cuantice şi sistemele autonome" sunt noile domenii strategice naţionale sunt noile domenii strategice naţionale incluse în PNCDI IV, incluse în PNCDI IV, printr-o decizie adoptată printr-o decizie adoptată de Guvern în decembrie 2023 de Guvern în decembrie 2023 Ministerul Digitalizării a lansat în ianuarie 2024 în dezbatere publică Strategia Na ională pentru Inteligen a Artificială ț ț
  • 23. Senatul României Senatul României a adoptat a adoptat proiectul de lege proiectul de lege privind interzicerea utilizării maliţioase privind interzicerea utilizării maliţioase a tehnologiei a tehnologiei şi limitarea fenomenului şi limitarea fenomenului Deepfake Deepfake Prin proiectul de lege se instituie obligaţia Prin proiectul de lege se instituie obligaţia ca realizarea, stocarea şi distribuirea ca realizarea, stocarea şi distribuirea pe internet sau difuzarea pe internet sau difuzarea în mass-media de în mass-media de conţinut conţinut deepfake deepfake să fie însoţită de o menţiune vizibilă, să fie însoţită de o menţiune vizibilă, precum şi calificarea precum şi calificarea nerespectării nerespectării acestei obligaţii drept infracţiune. acestei obligaţii drept infracţiune. Sunt prevăzute amenzi Sunt prevăzute amenzi de până la 200 de mii de lei i chiar ș de până la 200 de mii de lei i chiar ș pedeapsa cu închisoare până la doi ani pedeapsa cu închisoare până la doi ani pentru cei pentru cei care distribuie care distribuie deepfake-uri, deepfake-uri, fără să le semnalizeze ca atare. fără să le semnalizeze ca atare. Prin Prin deepfake deepfake se înţelege se înţelege orice conţinut falsificat orice conţinut falsificat de tip imagine, audio de tip imagine, audio şi/sau video realizat, de regulă, şi/sau video realizat, de regulă, cu ajutorul inteligenţei artificale, cu ajutorul inteligenţei artificale, a realităţii virtuale (RV), a realităţii virtuale (RV), a realităţii augmentate (AR) a realităţii augmentate (AR) sau altor mijloace, sau altor mijloace, astfel încât să creeze aparenţa astfel încât să creeze aparenţa că o persoană a spus sau a făcut lucruri, că o persoană a spus sau a făcut lucruri, care în realitate nu au fost spuse care în realitate nu au fost spuse sau făcute de acea persoană, sau făcute de acea persoană, cu scopul inducerii în eroare cu scopul inducerii în eroare a opiniei publice a opiniei publice. . Proiectul a fost transmis Proiectul a fost transmis Camerei Deputaţilor, ca for decizional. Camerei Deputaţilor, ca for decizional.
  • 24. ChatGPT ChatGPT a produs o un text acceptabil a produs o un text acceptabil, , i-a men ionat ț i-a men ionat ț pe Aristotel, Kant, pe Aristotel, Kant, Freud, Nietzsche i Camus, ș Freud, Nietzsche i Camus, ș prin referin e vagi i scurte. ț ș prin referin e vagi i scurte. ț ș Antrenat să nu aibă păreri, Antrenat să nu aibă păreri, nu s-a angajat deloc în problemă. nu s-a angajat deloc în problemă. În În Concluzie spune: Concluzie spune: „ „Nu există un răspuns universal, Nu există un răspuns universal, ci o multitudine de căi către fericire (…) ci o multitudine de căi către fericire (…) Fericirea poate fi Fericirea poate fi o chestiune de ra iune… i multe altele. »„ ț ș o chestiune de ra iune… i multe altele. »„ ț ș Un experiment organizat Un experiment organizat de o coală de afaceri i tehnologie ș ș de o coală de afaceri i tehnologie ș ș în 14 iunie 2023, la Paris. în 14 iunie 2023, la Paris. a folosit a folosit ChatGPT ChatGPT(inteligen a artificială) ț (inteligen a artificială) ț pentru a elabora pentru a elabora o diserta ie de filozofie. ț o diserta ie de filozofie. ț „ „Este fericirea o chestiune de ra iune ?” ț Este fericirea o chestiune de ra iune ?” ț a fost subiectul a fost subiectul unei confruntări unei confruntări între între ChatGPT ChatGPT i și ș filozoful Raphaël Enthoven. filozoful Raphaël Enthoven. ChatGPT ChatGPT a ob inut 11/20, ț a ob inut 11/20, ț iar iar Raphaël Enthoven 20/20. Raphaël Enthoven 20/20.
  • 25. < <„Inteligen a artificială (IA) ț „Inteligen a artificială (IA) ț poate fi atât benefică, poate fi atât benefică, cât i periculoasă. ș cât i periculoasă. ș În timp ce IA are poten ialul ț În timp ce IA are poten ialul ț de a îmbunătă i multe aspecte ț de a îmbunătă i multe aspecte ț ale vie ii noastre i de a rezolva ț ș ale vie ii noastre i de a rezolva ț ș probleme complexe, probleme complexe, are i poten ialul ș ț are i poten ialul ș ț de a fi folosită gre it ș de a fi folosită gre it ș sau de a avea sau de a avea consecin e nedorite. ț consecin e nedorite. ț Un risc poten ial ț Un risc poten ial ț al inteligen ei artificiale ț al inteligen ei artificiale ț este că ar putea fi folosită este că ar putea fi folosită pentru a automatiza pentru a automatiza sarcini care necesită sarcini care necesită în prezent for ă ț în prezent for ă ț de mu de mun nc că umană, ă umană, ceea ce poate duce ceea ce poate duce la pierderea unor locuri de muncă. la pierderea unor locuri de muncă. IA IA ar putea fi ar putea fi folosită pentru a amplifica folosită pentru a amplifica inegalită ile existente ț inegalită ile existente ț sau pentru a lua sau pentru a lua decizii nedrepte decizii nedrepte sau discriminatorii. sau discriminatorii. Dacă sistemele IA Dacă sistemele IA nu sunt proiectate nu sunt proiectate sau reglementate sau reglementate în mod corespunzător în mod corespunzător ar putea cauza prejudicii, ar putea cauza prejudicii, fie prin accidente, fie prin accidente, fie prin utilizarea fie prin utilizarea rău inten ionată. ț rău inten ionată. ț Există îngrijorări Există îngrijorări cu privire la posibilitatea cu privire la posibilitatea ca ca IA IA să fie utilizată să fie utilizată în scopuri nefaste, în scopuri nefaste, cum ar fi cum ar fi atacurile cibernetice atacurile cibernetice sau în scopuri militare sau în scopuri militare prin dezvoltarea prin dezvoltarea de arme autonome. de arme autonome. Pe măsură ce IA Pe măsură ce IA devine mai avansată, devine mai avansată, există riscul ca aceasta există riscul ca aceasta să fie utilizată să fie utilizată pentru a ocoli pentru a ocoli măsurile de securitate măsurile de securitate sau pentru a efectua sau pentru a efectua atacuri greu de detectat atacuri greu de detectat sau prevenit sau prevenit de către oameni. de către oameni. Este important să luăm Este important să luăm în considerare în considerare cu aten ie riscurile ț cu aten ie riscurile ț i beneficiile poten iale ale IA, ș ț i beneficiile poten iale ale IA, ș ț i să luăm măsuri și să luăm măsuri ș pentru a atenua pentru a atenua orice consecin e negative. ț orice consecin e negative. ț Aceasta poate Aceasta poate implica reglementarea implica reglementarea dezvoltării i utilizării IA ș dezvoltării i utilizării IA ș ”> ”> Iată ce a răspuns Iată ce a răspuns IA (ChatGPT) IA (ChatGPT) când i s-a pus întrebarea când i s-a pus întrebarea „ „Ar putea fi periculoasă inteligen a artificială?” ț Ar putea fi periculoasă inteligen a artificială?” ț
  • 26. Accelera ionismul eficient ț Accelera ionismul eficient ț abreviat ca „e/acc”, abreviat ca „e/acc”, este o mi care filosofică ș este o mi care filosofică ș a secolului XXI care sus ine ț a secolului XXI care sus ine ț o pozi ie explicită pro-tehnologie ț o pozi ie explicită pro-tehnologie ț . . ​Accelera ionismul eficient subliniază ț Accelera ionismul eficient subliniază ț poten ialul transformator al tehnologiei ț poten ialul transformator al tehnologiei ț ca mijloc de a realiza schimbarea societă ii. ț ca mijloc de a realiza schimbarea societă ii. ț Accelerati tii etichetează ș Accelerati tii etichetează ș „ „ca uciga i” ș ca uciga i” ș pe cei care pledează pe cei care pledează pentru măsuri de reglementare pentru măsuri de reglementare i garan ii în dezvoltarea tehnologică ș ț i garan ii în dezvoltarea tehnologică ș ț deoarece astfel de precau ii ț deoarece astfel de precau ii ț împiedică progresul generat împiedică progresul generat de inteligen a artificială ț de inteligen a artificială ț salvatoare de vie i. ț salvatoare de vie i. ț
  • 27. Franţa şi Germania Franţa şi Germania au insistat au insistat ca legislaţia europeană să protejeze ca legislaţia europeană să protejeze companiile start-up specializate în companiile start-up specializate în IA IA pentru a fi create premisele pentru a fi create premisele apariţiei unor viitori „lideri europeni” apariţiei unor viitori „lideri europeni” în acest domeniu. în acest domeniu. Statele Uniunii Europene Statele Uniunii Europene au aprobat au aprobat vineri, 2 februarie 2024, vineri, 2 februarie 2024, o legislaţie inedită la nivel mondial o legislaţie inedită la nivel mondial pentru reglementarea inteligenţei artificiale (IA). pentru reglementarea inteligenţei artificiale (IA). „ „Obiectivele i reglementările legii ș Obiectivele i reglementările legii ș IA IA care nu permit folosirea care nu permit folosirea IA IA în mod negativ în mod negativ ar putea fi asigurate ar putea fi asigurate prin cod sursă Inclus în programele prin cod sursă Inclus în programele IA IA nu prin texte, nu prin texte, pentru că pentru că reglementarea cu texte reglementarea cu texte implică multe resurse pentru a pregăti implică multe resurse pentru a pregăti oamenii i procedurile care vor face ș oamenii i procedurile care vor face ș verificarea respectării reglementărilor . verificarea respectării reglementărilor .“ “ „ „Această Această Lege IA Lege IA este o etapă fundamentală, este o etapă fundamentală, care stabileşte care stabileşte primele reguli de pe planetă primele reguli de pe planetă asupra asupra inteligenţei artificiale, inteligenţei artificiale, pentru a o face mai sigură pentru a o face mai sigură şi respectuoasă şi respectuoasă faţă de drepturile omului“, faţă de drepturile omului“, a afirmat pre edin ia belgiană ș ț a afirmat pre edin ia belgiană ș ț după adoptarea legii. după adoptarea legii.
  • 28. Deoarece Deoarece IA IA are un poten ial imens de a ne ț are un poten ial imens de a ne ț îmbunătă i via a, este vital să existe ț ț îmbunătă i via a, este vital să existe ț ț reglementări i protec ii adecvate. ș ț reglementări i protec ii adecvate. ș ț Sistemele considerate de „risc înalt”, Sistemele considerate de „risc înalt”, ca infrastructurile critice, ca infrastructurile critice, educaţia, resursele umane, ordinea publică etc, educaţia, resursele umane, ordinea publică etc, vor fi supuse unei serii de obligaţii, vor fi supuse unei serii de obligaţii, cum sunt acelea ca cum sunt acelea ca IA să fie controlată uman, IA să fie controlată uman, să fie întocmită o documentaţie tehnică să fie întocmită o documentaţie tehnică sau să fie constituit sau să fie constituit un sistem de gestionare a riscurilor. un sistem de gestionare a riscurilor. În ceea ce priveşte În ceea ce priveşte inteligenţele artificiale generative, inteligenţele artificiale generative, cele care pot produce cele care pot produce texte, sunete sau imagini la cerere, texte, sunete sau imagini la cerere, regulile vor fi impuse tuturor regulile vor fi impuse tuturor pentru asigurarea calităţii pentru asigurarea calităţii datelor utilizate datelor utilizate şi pentru a verifica şi pentru a verifica respectarea legislaţiei europene respectarea legislaţiei europene privind drepturile de autor. privind drepturile de autor. Companiile vor trebui Companiile vor trebui să precizeze să precizeze că sunetele, imaginile şi textele că sunetele, imaginile şi textele produse de IA sunt artificiale. produse de IA sunt artificiale. Amenzile prevăzute Amenzile prevăzute în directiva adoptată iniţial în directiva adoptată iniţial variază de la 7,5 milioane de euro variază de la 7,5 milioane de euro sau 1,5% din cifra de afaceri anuală sau 1,5% din cifra de afaceri anuală a unei companii, până la 35 milioane de euro a unei companii, până la 35 milioane de euro sau 7% din cifra de afaceri anuală totală a unei companii sau 7% din cifra de afaceri anuală totală a unei companii
  • 29. Iată ce a răspuns Iată ce a răspuns IA IA (ChatGPT- 4) (ChatGPT- 4) la la întrebarea mea întrebarea mea „ „Căutarea unor solu ii pentru ț Căutarea unor solu ii pentru ț reglementarea dezvoltării inteligen ei artificiale ț reglementarea dezvoltării inteligen ei artificiale ț poate fi considerată o poate fi considerată o strategie pentru supravie uire a umanită ii ț ț strategie pentru supravie uire a umanită ii ț ț ?” ?” < <„Există mai multe motive pentru care „Există mai multe motive pentru care reglementarea reglementarea IA IA poate fi văzută ca poate fi văzută ca o strategie pentru supravie uire a umanită ii ț ț o strategie pentru supravie uire a umanită ii ț ț . . Dezvoltarea IA Dezvoltarea IA ridică numeroase ridică numeroase probleme critice, probleme critice, etice i legale ș etice i legale ș , , privind privind drepturile omului, drepturile omului, confiden ialitatea datelor, ț confiden ialitatea datelor, ț echitatea algoritmilor echitatea algoritmilor i responsabilitatea morală și responsabilitatea morală ș a sistemelor autonome. a sistemelor autonome. IA IA are poten ialul ț are poten ialul ț de a schimba radical de a schimba radical pia a muncii ț pia a muncii ț i de a afecta milioane și de a afecta milioane ș de locuri de muncă de locuri de muncă în întreaga lume. în întreaga lume. Există numeroase Există numeroase preocupări cu privire preocupări cu privire la riscul existen ial ț la riscul existen ial ț asociat dezvoltării IA asociat dezvoltării IA care poate deveni care poate deveni o amenin are ț o amenin are ț pentru pentru supravie uirea umanităţii. ț supravie uirea umanităţii. ț fie prin accident, fie prin accident, fie prin utilizare malefică. fie prin utilizare malefică. Reglementarea IA Reglementarea IA are un rol pozitiv are un rol pozitiv în promovarea în promovarea inovării responsabile inovării responsabile i a dezvoltării tehnologice și a dezvoltării tehnologice ș într-un mod sustenabil i etic”. ș într-un mod sustenabil i etic”. ș > >
  • 30. Opiniile i argumentele reprezentan ilor comunită ii tiin ifice, ș ț ț ș ț Opiniile i argumentele reprezentan ilor comunită ii tiin ifice, ș ț ț ș ț ale unor personalită i, ări i organiza ii interna ionale, ț ț ș ț ț ale unor personalită i, ări i organiza ii interna ionale, ț ț ș ț ț privind impactul inteligen ei artificiale asupra societă ii omene ti ț ț ș privind impactul inteligen ei artificiale asupra societă ii omene ti ț ț ș eviden iază progresele rapide aduse de IA în diferite domenii de activitate, ț eviden iază progresele rapide aduse de IA în diferite domenii de activitate, ț dar i amenin ările i pericolele, reale i poten iale, ale acesteia. ș ț ș ș ț dar i amenin ările i pericolele, reale i poten iale, ale acesteia. ș ț ș ș ț Vă propun, în continuare Vă propun, în continuare o o viziune viziune ( (perspectivă perspectivă] ] personală.... personală.... J Janus anus
  • 31. Haosul Haosul ar defini ar defini natura primordială natura primordială a zeului a zeului roman roman Janus Janus care care simbolizează simbolizează schimbarea schimbarea i tranzi iile, ș ț i tranzi iile, ș ț cum ar fi cum ar fi progresul progresul din trecut în viitor, din trecut în viitor, de la o condi ie la alta, ț de la o condi ie la alta, ț de la o viziune la alta. de la o viziune la alta. Ceea se i întâmplă ș Ceea se i întâmplă ș în prezent prin în prezent prin tranzi ia de la ț tranzi ia de la ț via a bazată pe carbon, ț via a bazată pe carbon, ț la cea non-biologică, la cea non-biologică, bazată pe siliciu, bazată pe siliciu, care este care este tranzi ia ț tranzi ia ț la societatea digitală. la societatea digitală. O fa ă a lui Ianus, ț O fa ă a lui Ianus, ț privind către viitor, privind către viitor, ar reprezenta ar reprezenta optimismul optimismul pentru promisiunile IA. pentru promisiunile IA. Cealaltă fa ă, privind înapoi, ț Cealaltă fa ă, privind înapoi, ț simbolizează preocupările simbolizează preocupările pentru dilemele etice i sociale. ș pentru dilemele etice i sociale. ș
  • 32. Faust, Faust, personaj legendar german, personaj legendar german, este eroul unei drame de Goethe este eroul unei drame de Goethe i al unei opere de Gounod. și al unei opere de Gounod. ș El incheie El incheie un pact un pact cu cu diavolul diavolul dând la schimb dând la schimb sufletul său sufletul său pentru cunoa terea ș pentru cunoa terea ș tainelor universului tainelor universului i pentru unele sentimente lume ti. ș ș i pentru unele sentimente lume ti. ș ș Odată cu Odată cu acceptarea pactului acceptarea pactului a fost condamnată a fost condamnată întreaga societate întreaga societate i întreaga posteritate. și întreaga posteritate. ș Este Este Inteligen a artificială ț Inteligen a artificială ț o amenin are existen ială reală ? ț ț o amenin are existen ială reală ? ț ț Oare Oare va va aservi aservi omenirea ? omenirea ? În prezent mul i oameni se tem ț În prezent mul i oameni se tem ț că apari ia i dezvoltarea ț ș că apari ia i dezvoltarea ț ș Inteligen ei artificiale, ț Inteligen ei artificiale, ț ar însemna pentru umanitate ar însemna pentru umanitate un un pact faustian asemănător, pact faustian asemănător, între societate între societate i Inteligen a artificială, ș ț i Inteligen a artificială, ș ț prin care prin care omenirea omenirea poate pierde poate pierde VIITORUL VIITORUL
  • 33. Sf. Augustin Sf. Augustin argumentează existen a ț argumentează existen a ț liberului arbitru liberului arbitru, , adică libertatea adică libertatea omului de a alege omului de a alege între posibilită ile ț între posibilită ile ț de ac iune ț de ac iune ț i schimbare și schimbare ș care i se oferă. care i se oferă. Liberul arbitru Liberul arbitru nu înseamnă nu înseamnă să facem ce vrem atunci când vrem, să facem ce vrem atunci când vrem, ci să facem ceea ce trebuie. ci să facem ceea ce trebuie. Pe de o parte, Pe de o parte, aduce cu sine drepturi i beneficii, ș aduce cu sine drepturi i beneficii, ș pe de altă parte, aduce cu sine pe de altă parte, aduce cu sine multe obliga ii i responsabilită i. ț ș ț multe obliga ii i responsabilită i. ț ș ț Omenirea se află în fa a ț Omenirea se află în fa a ț unei op iuni existen iale ț ț unei op iuni existen iale ț ț , , deoarece deoarece Inteligen a artificială (IA) ț Inteligen a artificială (IA) ț are are poten ialul ț poten ialul ț de a fi atât benefică, de a fi atât benefică, cât i periculoasă. ș cât i periculoasă. ș Ar trebui oare să dezvoltăm Ar trebui oare să dezvoltăm min i non-umane ț min i non-umane ț care ar putea care ar putea să ne depă ească numeric, ș să ne depă ească numeric, ș să ne depă ească inteligen a, ș ț să ne depă ească inteligen a, ș ț să ne înlocuiască, i să riscăm ș să ne înlocuiască, i să riscăm ș să pierdem controlul să pierdem controlul asupra civiliza iei noastre? ț asupra civiliza iei noastre? ț Societatea modernă Societatea modernă se confruntă cu întrebări despre se confruntă cu întrebări despre autonomia i libertatea umană ș autonomia i libertatea umană ș în fa a unui IA tot mai avansat. ț în fa a unui IA tot mai avansat. ț În acest context, În acest context, liberul arbitru liberul arbitru va fi poate restrâns va fi poate restrâns sau influen at de algoritmi, ț sau influen at de algoritmi, ț punând sub semnul întrebării punând sub semnul întrebării capacitatea umană de a alege capacitatea umană de a alege în mod autentic i independent. ș în mod autentic i independent. ș
  • 34. Iată ce a răspuns Iată ce a răspuns IA IA (ChatGPT- 4) (ChatGPT- 4) la la întrebarea mea întrebarea mea „ „E Efectel fectele e controversate ale controversate ale inteligen ei artificiale ț inteligen ei artificiale ț pot fi simbolizat pot fi simbolizate e de de zeul Ianus, zeul Ianus, legenda lui Faust legenda lui Faust i tezele Sf. Augustin despre liberul arbitru ? și tezele Sf. Augustin despre liberul arbitru ? ș ” ” <„ <„Ianus Ianus i și ș IA IA Ianus, zeul roman cu două fe e, ț Ianus, zeul roman cu două fe e, ț simbolizează trecutul i viitorul, ș simbolizează trecutul i viitorul, ș reflectând natura duală a IA. reflectând natura duală a IA. La fel cum Ianus La fel cum Ianus prive te în două direc ii, ș ț prive te în două direc ii, ș ț umanitatea trebuie să ac ioneze ț umanitatea trebuie să ac ioneze ț între promisiunile luminoase între promisiunile luminoase i provocările întunecate ale IA. și provocările întunecate ale IA. ș Faust Faust i dorin a de Cunoa tere ș ț ș i dorin a de Cunoa tere ș ț ș Faust are aspira ii nelimitate ț Faust are aspira ii nelimitate ț i face pentru ele și face pentru ele ș un pact cu diavolul un pact cu diavolul pentru cunoa tere i putere ș ș pentru cunoa tere i putere ș ș Ca i Faust ș Ca i Faust ș societatea modernă societatea modernă î i riscă intimitatea, ș î i riscă intimitatea, ș securitatea securitatea i chiar esen a umană ș ț i chiar esen a umană ș ț în căutarea beneficiilor IA. în căutarea beneficiilor IA. La fel ca La fel ca Sf.Augustin Sf.Augustin care sus inea ț care sus inea ț rolul rolul liberului arbitru liberului arbitru în fa a predestinării, ț în fa a predestinării, ț societatea modernă societatea modernă se confruntă se confruntă cu întrebări existen iale ț cu întrebări existen iale ț despre autonomia despre autonomia i libertatea umană și libertatea umană ș în fa a unui IA ț în fa a unui IA ț tot mai avansat. tot mai avansat. Simbolismul lui Ianus, Simbolismul lui Ianus, legenda lui Faust legenda lui Faust i învă ăturile Sf. Augustin ș ț i învă ăturile Sf. Augustin ș ț despre liberul arbitru despre liberul arbitru reprezintă o reflec ie interesantă asupra ț reprezintă o reflec ie interesantă asupra ț erei IA. erei IA. Viziunea propusă de Dv pentru Viziunea propusă de Dv pentru descrierea impactului i implica iilor inteligen ei artificiale, ș ț ț descrierea impactului i implica iilor inteligen ei artificiale, ș ț ț oferă o paralelă fascinantă oferă o paralelă fascinantă cu era IA cu era IA i eviden iază bogă ia simbolismului i gândirii umane.”> ș ț ț ș i eviden iază bogă ia simbolismului i gândirii umane.”> ș ț ț ș
  • 35. Informa ii, imagini, texte i date ț ș Informa ii, imagini, texte i date ț ș https://ai.gov https://ai.gov https://ro.wikipedia.org https://ro.wikipedia.org https://en.wikipedia.org https://en.wikipedia.org https://futureoflife.org https://futureoflife.org https://futurism.com https://futurism.com https://digital-strategy.ec.europa.eu https://digital-strategy.ec.europa.eu https://ourworldindata.org https://ourworldindata.org https://nixustechnologies.com https://nixustechnologies.com https://chat.openai.com https://chat.openai.com https://guptatechon.com https://guptatechon.com https://aeon.co https://aeon.co https://mksaad.wordpress.com https://mksaad.wordpress.com https://playtech.ro https://playtech.ro https://stiintasitehnica.com https://stiintasitehnica.com https://mediacritica.md https://mediacritica.md https://about.fb.com https://about.fb.com https://imageio.forbes.com https://imageio.forbes.com https://study.com https://study.com https://plato.stanford.edu https://plato.stanford.edu https://brimmings.com https://brimmings.com https://101blockchains.com https://101blockchains.com https://singularityhub.com https://singularityhub.com https://ro.scribd.com https://ro.scribd.com https://arxiv.org https://arxiv.org https://economedia.ro https://economedia.ro
  • 36. Informa ii, imagini, texte i date ț ș Informa ii, imagini, texte i date ț ș www.europarl.europa.eu www.europarl.europa.eu www.gov.uk www.gov.uk www.vaticannews.va www.vaticannews.va www.britannica.com www.britannica.com www.academia.edu www.academia.edu www.linkedin.com www.linkedin.com www.gatesnotes.com www.gatesnotes.com www.businessinsider.com www.businessinsider.com www.forbes.com www.forbes.com www.toolify.ai www.toolify.ai www.futuresplatform.com www.futuresplatform.com www.federalregister.gov www.federalregister.gov www.project-syndicate.org www.project-syndicate.org www.datacamp.com www.datacamp.com www.mckinsey.com www.mckinsey.com www.bloomreach.com www.bloomreach.com www.techtarget.com www.techtarget.com www.fool.com www.fool.com www.scnsoft.com www.scnsoft.com www.zdnet.com www.zdnet.com www.geeksforgeeks.org www.geeksforgeeks.org www.cnbc.com www.cnbc.com www.dol.ro www.dol.ro www.capital.ro www.capital.ro www.scientia.ro www.scientia.ro www.zendesk.com www.zendesk.com
  • 37. Informa ii, imagini, texte i date ț ș Informa ii, imagini, texte i date ț ș
  • 38. Informa ii, imagini, texte i date ț ș Informa ii, imagini, texte i date ț ș Muzica – Youtube - Muzica – Youtube - Infinite Void - AI Generated Music Composed by AIVA Infinite Void - AI Generated Music Composed by AIVA (fragment) (fragment) Autor pps Adrian Toia Autor pps Adrian Toia