Excesso de algoritmos acarreta riscos, mas Humanidade vai ultrapassá-los

Um grupo de líderes tecnológicos assinou uma declaração conjunta a alertar que a IA pode levar à extinção da Humanidade. É uma mensagem plausível ou um aviso estapafúrdio?

Eduardo Ferreira,
responsável de Inovação da Capgemini
Vivemos numa época que é ao mesmo tempo fantástica e assustadora. Fantástica na evolução e nas descobertas, assustadora por sentirmos que há tanta coisa a acontecer que não temos a capacidade de assimilar tudo e podermos avaliar os seus impactos. O ser humano é na sua maioria adverso à mudança, até mesmo em posições de liderança (Rosabeth Moss Kanter na HBR.org) prefere o conforto do agora ao potencial desconhecido do amanhã. Contudo só podemos evoluir se abraçarmos a mudança, a inovação, a evolução. A tecnologia, em especial, a IA, não é, na minha perspetiva, algo que vá levar à extinção da Humanidade. O que esta tecnologia está a fazer é colocar um novo desafio à Humanidade. Como lidar com algo que pode evoluir a si próprio, através de aprendizagem? Pedro Domingos, refere em ‘A revolução do Algoritmo Mestre’ os desafios na criação de uma inteligência tão flexível como a nossa, e é sem dúvida uma jornada incrível. Esta jornada é, a meu ver, assente em colaboração e atuação. Colaboração com parceiros, desde universidades a grandes empresas tecnológicas, passando por startups, e a atuação é o testar, avaliar e voltar a testar. Temos um caminho pela frente, pode ser percorrido a uma velocidade que até agora não tínhamos experimentado, mas parar ou virar costas, não é com certeza a decisão a tomar. Acompanhar de perto esta evolução, para tanto poder ter uma palavra a dizer como uma tomada de decisão mais suportada, é uma escolha com a qual me revejo. Por fim, o que este momento nos mostra é que somos efetivamente globais, que o “efeito borboleta” existe e que não nos devemos fechar na nossa “bolha” segura só porque não sabemos o que o futuro nos reserva. O futuro sempre foi desconhecido até o vivermos e não foi por isso que parámos de evoluir.

Marco Vicente,
responsável de co-Inovação da Axians Portugal
Comparar a Covid ou a guerra na Ucrânia com os riscos da Inteligência Artificial (IA), vagos e especulativos, é uma hipérbole alarmista. O receio ludita da IA é irrealista, e pode distrair de questões reais como o viés e a discriminação em sistemas que utilizam IA, ou os limites éticos a impor, as perdas laborais, ou a obsolescência setorial. A automatização total ou parcial de muitas funções eliminará postos de trabalho, mas aumentará a produtividade e criará empregos. Fatores decisivos para o nosso contexto, onde falta mão de obra e a produtividade é baixa. Com os avanços tecnológicos e o aumento de poder computacional, caem barreiras à utilização da IA. Os algoritmos precisam de menos dados, e a partilha de dados especializados vulgariza-se. Estes avanços tornam o uso de IA mais fácil, mas também com mais riscos. Por isso Bruxelas aprovou o “AI Act”, que estabelecerá uma estrutura legal estrita para IA, que deverá entrar em vigor em 2025. Cientes dos limites éticos e legais associados à IA, temos o dever de utilizar todo este potencial em prol dos nossos clientes. Já utilizamos esta tecnologia transparente e responsavelmente na resolução de problemas críticos dos nossos parceiros, trazendo eficiência operacional, redução de custos e segurança acrescida. Exemplo disso é a aplicação de visão computacional para inspeção de pás de rotores em parques eólicos, que se cingem a critérios e condições climatéricas adequadas para este tipo de trabalho. Com uso de IA é avaliado o estado dos equipamentos, evitando-se o envio de pessoas ao topo dos equipamentos, e são gerados os alertas para a manutenção. Neste caso específico, ao unir o potencial da Inteligência Artificial com o auxílio de drones, estamos a trilhar rumo a um futuro mais seguro, eficiente e sustentável. Mas estamos a falar de inúmeras possibilidades que a IA traz, incluindo automação e eficiência, melhoria de qualidade de vida, contribuição para a sustentabilidade e meio ambiente. A visão distópica da declaração é especulativa. Está a ser feito um esforço constante, para adequar a legislação ao que se perspetiva, tentando prevenir, por antecipação, um conjunto de situações que não são claras.

Bruno Coelho
Diretor comercial da Beltrão Coelho
Creio que devemos ter um conceito equilibrado sobre este tema. Nem podemos, por um lado, achar que a IA é o início da extinção da raça humana, nem achar que a IA é a solução para todos podemos os problemas da humanidade. Concordo que esta é a altura certa para preparar o futuro e tentar estabelecer aqueles que serão os limites. E se mentes brilhantes, alertam para esta situação, penso que fazer uma pausa e alinhar pensamentos, só poderá ser benéfico para todos. Isto se conseguirmos que a discussão seja isenta e não com objetivos meramente comerciais e egoístas. Não podemos cair no erro de parar por completo o avanço tecnológico, ou simplesmente ignorá-lo. Devemos sim, estabelecer objetivos e regras, bem como instruir os utilizadores para os benefícios e os perigos. Toda a tecnologia pode ser bem ou mal-usada. O problema não está na tecnologia, está na forma como é usada. Esta tecnologia tem tudo para ser um sucesso, constitui uma enorme ajuda e é uma excelente ferramenta de trabalho. Dizer que a IA vai acabar com postos de trabalho, é ignorar os avanços normais da tecnologia no último século. Há profissões que terão de ser repensadas, outras terão de ser remodeladas, e não há que ter receio em dizer que outras serão extintas.

José Neves,
administrador da GMV Portugal
A indústria aeroespacial, reconhecida por estar desde sempre na vanguarda da inovação beneficia em larga escala dos desenvolvimentos contínuos nesta área da tecnologia. Facilmente podemos perspetivar como a IA poderá transformar os sistemas digitais utilizados para desenhar, fabricar e operar veículos aéreos e sistemas terrestres. Quando aplicada em larga escala, irá alterar, drasticamente, a forma como as empresas deste setor operam, catalisando novos modelos de negócio, acelerando radicalmente o ritmo da mudança. Assim como a bomba atómica revolucionou a defesa, a IA poderá originar uma terceira revolução na aeronáutica, depois da introdução de motores a jato na década de 50 e o fly-by-wire na década de 80. Com melhorias significativas no poder de processamento de dados, antevê-se que a IA será utilizada na manutenção preventiva, na otimização da gestão de tráfego aéreo, e, em meados deste século, em voos autónomos de passageiros. Recorrendo ao ChatGPT (OpenAI GPT-3) verificamos que: a IA tem o potencial de aumentar a segurança da aviação, melhorando a eficiência, a automação e os processos de tomada de decisão. No entanto, deve ser realizada de forma cuidadosa, mitigando riscos.

Bruno Duarte,
CEO da Glartek
A declaração conjunta que alerta para a capacidade da IA de levar à extinção da Humanidade é um aviso plausível, mas que deve ser interpretado com especial moderação. Enquanto esta tecnologia é certamente multidisciplinar, com aplicações em diferentes áreas, o seu desenvolvimento tem na sua origem um único objetivo: a libertação da ação humana. A inteligência artificial procura assistir e suavizar as mais variadas tarefas (sejam elas num contexto de lazer ou profissional). No panorama atual, a inteligência artificial tem (ou deveria ter) como principal função complementar a produtividade dos mais variados trabalhadores. Se pensarmos no seu impacto na indústria, a IA pode ser utilizada para antecipar processos de manutenção (também conhecida como manutenção preditiva); recolher e interpretar imagens e dados que nos alertem sobre questões de segurança; reconhecer padrões que nos podem ajudar a melhorar aspetos produtivos; eliminar tarefas repetitivas ou perigosas; possibilitar que os locais de trabalho sejam mais seguros e que qualquer decisão possa ser tomada com base em mais e melhor informação. Perante este e outros alertas, pode até parecer contraditório afirmar que a IA tem mais vantagens que desvantagens. No entanto, na sua conceção primária, esta inteligência não procura substituir, mas antes valorizar as características que são única e exclusivamente humanas, dando espaço aos trabalhadores e indivíduos para se concentrar nas tarefas que nenhuma máquina pode efetuar por eles. É normal a apreensão, mas a evolução tecnológica não pode parar/abrandar.

Pedro Barbosa,
CEO da Wise Pirates
Os avanços das diferentes tecnologias, em especial Generative AI, são cada vez mais rápidos, e a verdade é que vieram para ficar. Nenhuma evolução relevante deve ser vista como negativa, mas também não podem ser ignorados os riscos mais relevantes. Esta IA criará modelos de trabalho e oportunidades para pessoas, empresas e comunidades. No entanto, é preciso estar consciente dos riscos e criar um ecossistema de exigência com as pessoas e ética no centro, além dos sistemas de Artificial General Intelligence com eixos de regulação fiscal, ética e tecnológica sobre os agentes de IA. Este é o momento para as pessoas verem esta evolução como uma oportunidade e perceber como usá-la de forma sustentável. Para tal é preciso conhecimento alargado da sociedade sobre o tema e também consistência em como a usar para podermos ser mais exigentes e contribuintes dessa evolução. Na Wise Pirates, integramos estas ferramentas com o trabalho de equipas criativas, para juntos construírem soluções de conteúdos para as marcas com que trabalhamos. Criámos o primeiro framework europeu com esta integração e que garante o uso de AI com controlo de privacidade, realidade e ética. A utilização deste modelo é extensível a toda a sociedade e estamos disponíveis para capacitar empresas e até concorrentes nesta matéria, algo que ajudará na redução de risco de eliminação da Humanidade. O nosso contributo deve ser integrar cadeias de valor que permitam às sociedades alargarem conhecimento e integrarem a evolução de forma sustentável, e não tentar parar ou abrandá-los.

Carlos Jesus
Country manager da Colt Technology Services Portugal
Como em tudo na vida temos de encontrar o ponto de equilíbrio. É verdade que tudo o que está relacionado com a IA traz ris- cos e ainda estamos muito no início, mas já existiam antes de a IA surgir. A qualidade e verosimilhança (fake news) e/ou a manipulação da informação, incluindo pessoal, estão entre os maiores riscos da IA. Contudo, não há for- ma de pararmos esta evolução tecnológica. Por isso, teremos de perceber os riscos e criar os respetivos mecanismos de controlo e garantir que a IA é bem aplicada e com ética. Na área das telecomunicações, vai permitir foco.

João Paulo Carvalho
Fundador e senior partner da Quidgest
Inclino-me para o aviso estapafúrdio. Cinco perspetivas menos usuais (blind spots) acerca da IA: 1. Não há uma, mas sim várias inteligências artificiais. Em 2023, certamente estamos a falar da quarta vaga da Inteligência Artificial, a IA generativa ou conversacional. Que é espetacular a vários níveis e não é relevante apenas para o setor tecnológico, mas para todas as atividades humanas. “No knowledge worker is immune from the creative destruction of generative AI”. 2. A inteligência ou a ausência dela não parecem estar correlacionadas com a sobrevivência de nenhuma espécie. Muitos animais, plantas, bactérias, ou vírus prosperam sem inteligência. E conseguem transmitir o que aprendem aos seus descendentes. Até, como provam os animais domésticos e de estimação, a dependência de outra espécie, mais inteligente, não conduz à extinção. 3. Contudo, a inteligência centralizada parece bastante perigosa. Felizmente, a inteligência humana está mais bem distribuída que os Large Language Models (LLM). 4. A regulação de qualquer atividade não é neutra. Sendo líderes tecnológicos, todos os subscritores da declaração deveriam também assinar uma declaração de conflito de interesses. E, uma vez que nada os impede de ser eticamente responsáveis nas suas ferramentas de IA, especificar por que querem regular a IA dos outros. Para recuperar competitividade, para atrasar a concorrência, para proteger os seus investimentos noutros domínios? 5. Como sempre, haverá ganhadores e perdedores com a disrupção tecnológica. De forma menos evidente, mas certamente perdedoras são as plataformas de low-code que funcionam com código proprietário ou sem código. Através de assistentes ou de processos mais sofisticados, como o Genio da Quidgest, a IA generativa está a alterar profundamente o processo de criação de software. Mas a IA generativa usa grandes repositórios de linguagens comuns e de código aberto e em nada beneficia as plataformas fechadas de low-code ou os seus utilizadores.

Tiago Santos
CEO da Enlitia
A IA é uma ferramenta extremamente poderosa, que está a mudar a forma como utilizamos e compreendemos os dados que temos vindo a gerar ao longo dos últimos anos. Contudo, é apenas mais uma ferramenta que temos à nossa disposição. O que fazemos com ela depende de cada um de nós, e como qualquer tecnologia disruptiva que permite um crescimento fora do dito “normal” irá obrigar a humanidade a adaptar-se. Todas as tecnologias desenvolvidas pelo Homem que permitiram a evolução de forma exponencial, acarretam riscos. Termos a perceção da existência desses riscos também faz parte da evolução da humanidade, significa que estamos a aprender com o que fizemos no passado. Existem certamente riscos conhecidos e riscos desconhecidos que não devem, nem vão, impedir o desenvolvimento da IA, podem atrasar por um período, podem influenciar o seu caminho, mas não é possível ignorar uma tecnologia com este impacto, até porque o Homem tem na sua base a vontade de superar barreiras e ir mais longe. A IA não é diferente de outras tecnologias, não a conhecemos totalmente por enquanto, e isso deixa-nos desconfortáveis, especialmente por reconhecermos o seu poder de análise e interpretação de grandes volumes de dados a velocidades surpreendentes, e tudo o que isso nos vai permitir em diversas áreas, como a energia, medicina, finanças, transporte, comunicações, entre outros. A IA tem transformado e vai continuar a transformar o mundo de forma profunda, consequentemente, a forma como esta preocupação surge faz todo o sentido e é extremamente relevante, uma vez que à medida que vamos desenvolvendo a tecnologia, devemos paralelamente analisar os riscos envolvidos, abordando cuidadosamente as preocupações éticas e os desafios que surgem ao longo do caminho e garantido que é usada de forma ética e responsavelmente para um benefício comum: a nossa evolução como humanidade.

Ricardo Parreira
CEO da PHC Software
O ponto de viragem no campo da IA que hoje atravessamos não deve ser levado de ânimo leve. A evolução e utilização desregulada traz uma série de riscos à própria liberdade e vida humana. Por isso, a IA tornou-se numa questão política e para a qual as vozes que nos alertam para os riscos não podem deixar de ser ouvidas. A técnica existe e evolui a um ritmo que dificilmente a nossa capacidade biológica poderá acompanhar. Se, por um lado, já todos provámos uma ínfima parte dos benefícios de ter as máquinas a criar, decidir e fazer por nós, estamos longe de prever as consequências de uma evolução que não dorme, não esquece e é substancialmente mais rápida do que a nossa. E é por não ser possível prever as consequências dessa evolução que o risco é efetivamente real — inclusive o perigo de extinção. Queremos mesmo deixar o nosso destino ao acaso? Estou certo de que a IA será parte da nossa vida, do nosso futuro — não tenho dúvidas. Os seus benefícios ultrapassam qualquer tentativa de a parar, mas não nos podemos demitir da regulação, da preservação da liberdade e, inevitavelmente, da própria democracia. As decisões sobre o impacto da IA são de tal ordem que os nossos eleitos não se podem ignorar os avisos, nem deixar os destinos da humanidade nas mãos de líderes tecnológicos não eleitos. Se queremos um futuro com Inteligência Artificial a potenciar a vida humana precisamos de agir já.

Nuno Barboza
CEO da Bi4all
Nos últimos anos temos assistido à aplicação da IA em muitos aspetos da nossa vida, e são reais os benefícios quer no mundo empresarial, em todos os setores, quer a nível pessoal. Mas se a tecnologia traz imensas oportunidades, traz ainda mais responsabilidades. Temos de garantir o bom uso da tecnologia e olhar atentamente para os aspetos éticos. Só porque a tecnologia permite fazer algo, não quer dizer necessariamente que o devemos fazer. Ninguém diz que a eletricidade não é uma coisa fantástica, veio dar uma ajuda imensa à humanidade e o seu impacto é inimaginável. No entanto, isto não quer dizer que vamos colocar os dedos numa tomada. Aí vamo-nos queimar. Apanhar um choque elétrico.
Isto para dizer que não é a eletricidade que é nefasta para a humanidade. É o que fazemos com ela. O mesmo se aplica a IA. Dizer que a IA pode levar à extinção da Humanidade é uma visão bastante pessimista do que é a inovação e do que, em particular, as ferramentas de IA podem trazer de benéfico às empresas e à sociedade. Estamos agora um passo à frente. No caso das organizações, temos de preparar o triângulo de dados, tecnologia e IA, providenciando novas fontes de conhecimento com o intuito de ajudar com as decisões necessárias para poderem alcançar os seus objetivos, mas também para contribuir com algo benéfico para a humanidade, como a luta contra as alterações climáticas ou os avanços na saúde, que têm sido ótimos exemplos com impacto superpositivo para a humanidade. Acredito também que o desenvolvimento e uso da IA deve ser feito sempre considerando a segurança e os impactos na sociedade. Vejo algumas organizações que já estão um passo à frente e a preparar a criação interna de comissões éticas, de forma a olhar para o que IA, machine learning e algoritmos estão a fazer, e perceberem como se podem precaver antecipadamente de consequências não intencionais.

Paulo Mota
Cofundador da Coreflux
O impacto da IA depende de utilizações específicas, não da tecnologia em si: nos casos de uso descritos na carta aberta, o aviso é plausível, fora de contexto é alarmista. Num cenário desregulado e mal-intencionado, a IA pode reforçar desequilíbrios sociais e ser aplicada com fins manipulativos e nefastos, mas devidamente regulada e fiscalizada gera enorme potencial de desenvolvimento científico, industrial e comercial. Deverá ser esse o foco de todo o ecossistema: mapear um caminho seguro, sustentável e inclusivo rumo ao progresso. A nossa interação com IA ocorre há já anos, integrada em tecnologia que usamos no dia-a-dia. A recente expansão surge pela massificação do uso ao público geral, através de interfaces acessíveis como a linguagem natural. Nos moldes atuais carece de passar pelos ciclos de maturação e regulação aplicados por exemplo em tecnologias como a Internet e redes sociais. Estas continuam hoje em transformação constante, necessidade derivada do contacto com as múltiplas facetas da natureza humana, sendo por vezes desvirtuadas. Importa identificar riscos e mitigá-los, ação que passa por criar estruturas dentro dum ecossistema informado e competente, capazes de monitorizar e atuar atempadamente sobre casos de uso e indústrias específicos. Por sermos capazes de identificar vieses que irão influenciar interações entre os sistemas e o público, de forma a garantir inclusão e não reforçar fossos já existentes. De melhorar continuamente. Estabilizado, o futuro da IA passa pela melhoria de modelos e integração em quaisquer processos nos quais seja passível de criar valor, como ferramenta de otimização de desempenho e decisão. Requererá adaptações do ponto de vista social, especial foco na educação em competências digitais: acesso e competências ligadas à IA deverão ser o mais universais possível, como instrumentos de apoio à concretização de potencial humano.