Foram recentemente divulgados os “Princípios Éticos Orientadores para uma IA Fidedigna”, elaborados por um grupo de peritos nomeado pela Comissão Europeia. Este documento constitui o esboço de uma Carta Ética para a Inteligência Artificial (IA). Não é demais enaltecer a sua importância, pois o poder da tecnologia implica sentido ético de responsabilidade, de uma responsabilidade que terá de situar-se para além de medos paralisantes, mas também de fantasias temerárias.
A IA pode contribuir para o aumento da informação e do conhecimento em todas as áreas do saber e para a racionalidade das decisões técnicas, económicas, políticas e jurídicas. Deste modo, pode promover o desenvolvimento sustentável dos povos. Com efeito, a IA potencia o crescimento económico e a maximização da riqueza, a qualidade da educação e dos cuidados de saúde e pode, ainda, permitir uma mais eficaz proteção ecológica do planeta. Eis um exemplo categórico de como a técnica pode estar ao serviço da felicidade humana.
Contudo, há riscos inerentes ao poder tecnológico. E o grande risco da IA é o de que esta possa ser aproveitada por poderes políticos e económicos para condicionar a vida humana a tal ponto que o homem e a sua liberdade se possam tornar um mero produto da tecnologia. Relembrem-se as duas mais paradigmáticas distopias literárias sobre o poder da tecnologia: “Admirável Mundo Novo” de Aldous Huxley, e “1984” de George Orwell.
Vigiar, sugerir e decidir são poderes da IA resultantes da acumulação e cruzamento de informação. Por meio da vigilância e da sugestão, a ação humana é condicionada pela Inteligência Artificial. Através da capacidade da IA tomar decisões nos mais diversos domínios da prática, o homem é substituído pela máquina.
Dos “Princípios Éticos Orientadores para uma IA Fidedigna” resulta a ideia de que todos os sistemas de IA devem ser “humano-cêntricos”, não se justificando por si mesmos, mas em nome da humanidade, do bem comum e da liberdade. Assim, os sistemas de IA devem ser desenhados de modo a prevenir danos causados às pessoas. Deve existir sempre a possibilidade de contestar as decisões proferidas por sistemas de IA e estes não podem ser black boxes, devem ser compreensíveis e não opacos no seu funcionamento.
De forma muito impressiva, os acima referidos “Princípios Orientadores” fazem uma adaptação da ideia kantiana de que as pessoas são fins em si, que parece ganhar novo relevo na era da tecnologia. Diz na verdade o texto: “As pessoas devem ser tratadas como sujeitos morais, e não meramente como objetos a serem examinados, classificados, quantificados, assimilados, condicionados e manipulados”. Eis aqui a pedra angular da Carta Ética da Inteligência Artificial, ainda em construção.
