Marc Sió
‘El codi [informàtic] és la llei.’
The DAO
A cavall entre els segles XVIII i XIX, es va impulsar en els codis civils dels països desenvolupats la figura de la personalitat jurídica per a les empreses i associacions. De forma similar a la resta de persones físiques, la consideració d’aquesta condició està destinada per aquelles organitzacions mercantils o no, que requereixen en les seves actuacions d’uns determinats comportaments ètics alineats amb conductes socials coherents i responsables en el temps. Avui, són institucions dotades amb drets i deures que interactuen de manera similar amb la resta de les persones naturals de la societat.
En els darrers anys, la Unió Europea (UE) està considerant la adopció d’una “personalitat electrònica” per a aquells enginys d’intel·ligència artificial (AI) més avançats que, mitjançant l’autonomia de drets i deures associats amb la responsabilitat de les seves accions, puguin autogestionar els seus propis codis de comportament. En aquests moments, tots formem part d’una generació de transició i, aquella tecnologia que fins fa poc quedava molt supeditada a determinades esferes de la nostra vida (laboral, mobilitat, comunicació…), avui i cada vegada més, impregna tots els àmbits de la nostra quotidianitat, formant part d’unes inèrcies socials que desconeixem cap a on ens poden portar. En els darrers temps, hem basat bona part del progrés en la deshumanització i es comença a fer necessari reivindicar un model que tracti el concepte de re-posicionar l’ésser humà al centre del sistema i subordinar la tecnologia al servei de les persones.
Per primera vegada la tecnologia va per davant dels objectius que perseguim. Es diu, a tall d’exemple, que la corporació de la rialla (Amazon), analitzant els petits canvis en el comportament de les nostres cerques habituals, pot saber fins i tot, si una dona està embarassada abans que ella mateixa ho sàpiga. Urgeix respostes concretes a preguntes mai formulades: Què significa: ‘les meves dades em pertanyen’? L’única diferència entre la intel·ligència artificial (AI) i la humana és la mort? Què ens fa diferents com a persones? Pot ser ètic simular ser humà? Hi ha d’haver límits en l’experimentació del comportament dels humans amb aquestes ments artificials? Quina responsabilitat comporta la utilització dels algoritmes intel·ligents? Poden tenir biaixos arbitraris? Quins errors es poden acceptar de les AI? Hi ha d’haver algun registre públic que expliqui el seu codi de funcionament? El codi és la llei?…
Avui l’única resposta que sabem és que la tecnologia obeeix els interessos particulars dels seus propietaris i que poden no estar alineats amb els objectius de la societat en general. Els debats ètics, així com les conseqüents regulacions legals, van molt per darrera de l’enginyeria tecnològica i de les corporacions que les explota.
Tenim el dret i el deure de saber quins criteris hi ha darrera les decisions de les AI i més, quan aquestes poden inhabilitar les persones per desenvolupar tasques, activitats, treballs o ocupacions en favor d’una suposada eficiència tecnològica. Els comportaments ètics i els valors morals han d’anar associats a la presa de les seves decisions, i els objectius que han de perseguir han d’incorporar uns consensos socials que en aquests moments no es veuen. Les humanitats i les disciplines artístiques sempre han estat les responsables de defensar el comportament moralista i crític de la societat en general. Les STEM (ciències, tecnologies, enginyeries i matemàtiques) han defensat històricament l’avenç de la ciència i la tecnologia, despreocupant-se massa vegades de les conseqüències socials que això pogués originar. En aquests temps de profunds canvis i reajustaments de valors, fora bo que junts repenséssim també una nova manera de concebre la societat, reivindicant la vesant poètica de la ciència i lluitant pel caràcter humanista del coneixement.
