La protecció dels drets a la igualtat i la no discriminació en els sistemes d'aprenentatge automàtic
Preàmbul
A mesura que els sistemes d'aprenentatge automàtic avancin en capacitat i augmentin el seu ús, hem d'examinar les implicacions positives i negatives d'aquestes tecnologies. Reconeixem el potencial d'aquestes tecnologies per ser utilitzades per al bé i per promoure els drets humans, però també el potencial de discriminació intencionada o inadvertida contra individus o grups de persones. Hem de mantenir l'enfocament sobre com aquestes tecnologies afectaran els éssers humans individuals i els drets humans. En un món de sistemes d'aprenentatge automàtic, qui es farà responsable del perjudici als drets humans?
A mesura que el discurs "ètic" guanya fonament, aquesta declaració pretén subratllar la centralitat del cos universal, vinculant i que es pot processar de les lleis i normes de drets humans, que protegeixen els drets i proporcionen un marc ben desenvolupat per als remeis. Protegeixen les persones contra la discriminació, promouen la inclusió, la diversitat i l'equitat, i protegeixen la igualtat. Els drets humans són "universals, indivisibles i interdependents i interrelacionats".
Aquesta Declaració té com a objectiu aprofitar els debats, principis i documents existents que exploren els danys derivats d'aquesta tecnologia. L'important treball realitzat en aquesta àrea per molts experts ha contribuït a sensibilitzar i informar els debats sobre els riscs discriminatoris dels sistemes d'aprenentatge automàtic. Volem complementar aquest treball reafirmant el paper de les lleis i normes de drets humans a la protecció de persones i grups de discriminació i no igualtat en qualsevol context. La legislació i les normes de drets humans esbossades en aquesta declaració proporcionen una sòlida base per al desenvolupament dels marcs ètics per a l'aprenentatge automàtic.
Des de la vigilància, fins als sistemes assistencials, el discurs en línia i l'assistència sanitària, per anomenar-ne alguns exemples, els sistemes que utilitzen tecnologies d'aprenentatge automàtic poden canviar o reforçar ràpidament les estructures de poder o les desigualtats a una escala sense precedents i amb un dany important als drets humans. Hi ha una evidència substantiva i creixent que demostra que els sistemes d'aprenentatge automàtic, que poden ser opacs i que inclouen processos inexplicables, poden contribuir fàcilment a pràctiques discriminatòries o d'una altra manera repressives si s'adopten sense salvaguardes necessàries.
Els estats i els actors privats haurien de promoure el desenvolupament i l'ús d'aquestes tecnologies per ajudar a les persones a exercir i gaudir més fàcilment dels seus drets humans. Per exemple, en l'àmbit de l'assistència sanitària, els sistemes d'aprenentatge automàtic poden aportar avenços en diagnòstics i tractaments, alhora que poden fer que els serveis sanitaris estiguin més disponibles i accessibles. Els Estats i els actors privats haurien d'afavorir, en relació amb l'aprenentatge automàtic i la intel·ligència artificial, el dret positiu a gaudir dels beneficis del progrés científic i les seves aplicacions com a afirmació dels drets econòmics, socials i culturals.
Els drets a la igualtat i la no discriminació són només dos dels drets humans que es poden veure afectats negativament mitjançant l'ús de sistemes d'aprenentatge automàtic: privadesa, protecció de dades, llibertat d'expressió, participació en la vida cultural, igualtat davant la llei i accés significatiu per solucionar són només alguns dels altres drets que es poden veure perjudicats amb el mal ús d'aquesta tecnologia. Els sistemes que prenen decisions i processen dades també poden implicar drets econòmics, socials i culturals; per exemple, poden afectar la prestació de serveis i oportunitats com l'assistència sanitària i l'educació, i l'accés a oportunitats, com el treball i l'ocupació.
Tot i que aquesta Declaració està centrada en tecnologies d'aprenentatge automàtic, moltes de les normes i principis que s'hi inclouen són igualment aplicables a la intel·ligència artificial més àmpliament, així com als sistemes de dades relacionals. La declaració es centra en els drets d'igualtat i no discriminació. L'aprenentatge automàtic i la intel·ligència artificial en general tenen un impacte en la diversitat dels drets humans, com ara el dret a la privadesa, el dret a la llibertat d'expressió, la participació en la vida cultural, el dret al remei i el dret a la vida.
Utilitzant el marc de la legislació internacional sobre drets humans
- Els Estats tenen obligacions de promoure, protegir i respectar els drets humans; El sector privat, incloses les empreses, tenen la responsabilitat de respectar els drets humans en tot moment. Presentem aquesta Declaració per afirmar aquestes obligacions i responsabilitats.
Actualment hi ha moltes discussions a nivell supranacional, estatal i regional, en empreses tecnològiques, en institucions acadèmiques, en la societat civil i més enllà, centrant-se en com fer que l'IA estigui centrada en l'ésser humà i la "ètica" de la intel·ligència artificial. Cal tenir en compte les possibles infraccions de drets humans actuals i futures, i la millor manera d'abordar-les amb millor reflexió sobre els danys als drets i els règims normatius i legals.
La legislació sobre drets humans és un sistema de valors universalment atribuït basat en l'estat de dret que proporciona els mitjans establerts per assegurar que es respectin els drets, inclosos els drets d'igualtat i no-discriminació. La seva naturalesa com a conjunt de normes vinculant i aplicable és especialment adequada per a tecnologies sense fronteres com l'aprenentatge automàtic. La llei de drets humans estableix normes i mecanismes perquè els responsables públics i privats siguin responsables quan no compleixin les seves respectives obligacions i responsabilitats per protegir i respectar els drets. També exigeix que tothom pugui obtenir un remei i una solució efectiva en els casos en què els seus drets hagin estat denegats o vulnerats. Els sistemes d'aprenentatge de màquines de riscos han de ser examinats i tractats urgentment a nivell governamental i pel sector privat concebent, desenvolupant i desplegant aquests sistemes. Les mesures governamentals han de ser vinculants i adequades per protegir i promoure els drets. Els experts acadèmics, jurídics i de la societat civil han de poder participar de manera significativa en aquestes discussions, criticar i assessorar sobre l'ús d'aquestes tecnologies. També és crític que s'identifiquin i es tractin possibles danys i es posin en marxa mecanismes per responsabilitzar els responsables dels danys.
Els drets a la igualtat i a la no discriminació
- Aquesta Declaració se centra en els drets a la igualtat i la no discriminació, principis crítics que sustenten tots els drets humans.
La discriminació es defineix segons el dret internacional com "qualsevol distinció, exclusió, restricció o preferència que es basa en qualsevol motiu com raça, color, sexe, llengua, religió, opinió política o d'altra índole, origen nacional o social, propietat, naixement o un altre estatus. , i que té com a finalitat o efecte anul·lar o deteriorar el reconeixement, gaudi o exercici per part de totes les persones, en igualtat de condicions, de tots els drets i llibertats ". Aquesta llista no és exhaustiva ja que l'Alt Comissionat de les Nacions Unides per als Drets Humans va reconèixer la necessitat d'evitar la discriminació contra classes addicionals.
Prevenció de la discriminació
- El sector públic i el sector privat tenen obligacions i responsabilitats en virtut de la legislació de drets humans per prevenir de manera proactiva la discriminació. Quan la prevenció no és suficient o satisfactòria, s'ha de mitigar la discriminació.
En utilitzar noves tecnologies, el sector públic i el privat probablement hauran de trobar noves maneres de protegir els drets humans, ja que sorgeixen nous desafiaments per a la igualtat i la representació de persones i grups diversos. Aquest tipus de tecnologies poden agreujar la discriminació a escala.
Els patrons existents de discriminació estructural poden ser reproduïts i agreujats en situacions que són particulars d'aquestes tecnologies, com ara objectius del sistema d'aprenentatge automàtic que creen marcadors d'èxit autònoms i reforcen patrons de desigualtat o qüestions derivades de l'ús no representatiu o conjunts de dades "esbiaixades".
Tots els actors, públics i privats, han d'evitar i mitigar els riscos de discriminació en el disseny, el desenvolupament i l'aplicació de tecnologies d'aprenentatge automàtic i que garanteixin solucions efectives abans del desplegament i al llarg del cicle de vida d'aquests sistemes.
Protecció dels drets de totes les persones i grups i promoció la diversitat i la diversitat d'inclusió
Aquesta Declaració subratlla que la inclusió, la diversitat i l'equitat són components claus per garantir que els sistemes d'aprenentatge automàtic no creen ni perpetuen la discriminació, especialment en els grups marginats. Hi ha alguns grups per als quals la recopilació de dades sobre la discriminació planteja una dificultat particular, però, les proteccions també han d'ampliar-se a aquests grups.
Les entrades discriminatòries intencionals i inadvertides en tot el disseny, el desenvolupament i l'ús de sistemes d'aprenentatge automàtic generen greus riscos per als drets humans; Els sistemes es desenvolupen, en la seva major part, desenvolupen, apliquen i revisen els actors que es basen principalment en determinats països i regions, amb una participació limitada de diversos grups en termes de raça, cultura, sexe i antecedents socioeconòmics. Això pot produir resultats discriminatoris.
La inclusió, la diversitat i l'equitat implica la participació activa i la consulta amb una comunitat diversa per garantir que els sistemes d'aprenentatge automàtic es dissenyin i utilitzin de manera que respectin la no discriminació, la igualtat i altres drets humans.