Por Paula Rooney
Com o ciclo de entusiasmo da IA e a subsequente reação negativa em pleno andamento, os líderes de TI encontram-se num ponto de inflexão ténue no que diz respeito à utilização da inteligência artificial nas empresas.
Na sequência de avisos severos de Elon Musk e do venerado pioneiro da IA Geoffrey Hinton, que recentemente deixou a Google e está a transmitir os riscos da IA e a apelar a uma pausa, os líderes de TI estão a contactar instituições, empresas de consultoria e advogados de todo o mundo para obterem conselhos sobre o caminho a seguir.
“Os recentes comentários cautelosos de CEO da tecnologia, como Elon Musk, sobre os potenciais perigos da inteligência artificial demonstram que não estamos a fazer o suficiente para mitigar as consequências da nossa inovação”, afirma Atti Riazi, SVP e CIO da Hearst. “É nosso dever, enquanto inovadores, inovar de forma responsável e compreender as implicações da tecnologia na vida humana, na sociedade e na cultura.”
Este sentimento é partilhado por muitos líderes de TI, que acreditam que a inovação numa sociedade de mercado livre é inevitável e deve ser encorajada, especialmente nesta era de transformação digital – mas apenas com as regras e regulamentos corretos para evitar catástrofes empresariais ou pior.
“Concordo que uma pausa pode ser apropriada para algumas indústrias ou certos casos de utilização de alto risco, mas em muitas outras situações devemos avançar e explorar rapidamente as oportunidades que estas ferramentas oferecem”, afirma Bob McCowan, CIO da Regeneron Pharmaceuticals.
“Muitos membros do conselho de administração questionam-se se estas tecnologias devem ser adotadas ou se vão criar demasiados riscos?” McCowan acrescenta. “Para mim, são as duas coisas. Ignorá-la ou encerrá-la e estará a perder uma oportunidade significativa, mas dar acesso irrestrito [aos funcionários] sem controlos também pode colocar a sua organização em risco.”
Embora as ferramentas de IA estejam em uso há anos, o recente lançamento do ChatGPT para as massas gerou consideravelmente mais controvérsia, dando a muitos CIO – e seus conselhos – uma pausa sobre como proceder. Alguns CIO levam os riscos para a indústria – e para a humanidade – muito a sério.
“Todos os dias me preocupo mais com isto”, diz Steve Randich, CIO da Financial Industry Regulatory Authority (FINRA), uma importante agência reguladora que responde perante a SEC.
Randich refere um gráfico que viu recentemente e que afirma que a capacidade “mental” de um programa de IA acaba de ultrapassar a de um rato e, dentro de 10 anos, ultrapassará a capacidade de toda a humanidade. “Considerem-me preocupado, especialmente se os programas de IA puderem ser influenciados por maus atores e forem capazes de piratear, por exemplo, códigos nucleares”, afirma.
George Westerman, professor sénior da MIT Sloan School of Management, afirma que os executivos de empresas de todo o mundo estão a pedir conselhos à MIT Sloan e a outras instituições sobre a ética, os riscos e as potenciais responsabilidades da utilização da IA generativa. Ainda assim, Westerman acredita que a maioria dos CIO já se envolveu com os seus executivos de topo e com o conselho de administração e que a IA generativa em si não impõe novas responsabilidades legais que as empresas e os seus executivos não cumpram atualmente.
“Eu esperaria que, assim como todos os outros diretores de empresas, houvesse cobertura [legal] para seus deveres oficiais”, diz Westerman sobre a exposição legal pessoal dos CIO às consequências da IA, observando a exceção de usar a tecnologia de forma inadequada para ganho pessoal.
Recuperar o atraso na IA generativa
Entretanto, o lançamento do ChatGPT abalou os esforços de supervisão regulamentar. A UE tinha planeado promulgar a sua Lei da IA no mês passado, mas optou por adiar o lançamento do ChatGPT, uma vez que muitos receavam que as políticas estivessem desatualizadas antes de entrarem em vigor. E à medida que a Comissão Europeia e os seus órgãos de governação relacionados trabalham para resolver as implicações da IA generativa, os executivos das empresas na Europa e nos EUA estão a levar a sério os sinais de alerta.
“À medida que a IA se torna uma parte essencial da nossa paisagem e a IA restrita se transforma em IA geral – quem é responsável? Os responsáveis pela tecnologia, os modelos de máquinas inanimadas? Os intervenientes humanos que ratificam/alteram os modelos de formação? A tecnologia está a avançar rapidamente, mas os controlos e a ética que a rodeiam não”, afirma Adriana Karaboutis, directora de informação e digital da National Grid, que tem sede no Reino Unido, mas também opera no nordeste dos EUA.
“Há aqui um jogo de recuperação. Para tal, e entretanto, a gestão da IA na empresa cabe aos CxO que supervisionam o risco empresarial e organizacional. O CTO / CCIO / CTO / CDO / CISO não são mais os proprietários do risco de informação “devido ao aumento da IA, afirma o CIDO. “A TI depende do CEO e de todos os CxO, o que significa que a cultura corporativa e a conscientização sobre os enormes benefícios da IA, bem como os riscos, devem ser assumidos”.
A Ericsson, empresa de telecomunicações sediada em Estocolmo, vê grandes vantagens na IA generativa e está a investir na criação de vários modelos de IA generativa, incluindo grandes modelos linguísticos, afirma Rickard Wieselfors, vice-presidente e responsável pela automação empresarial e IA na Ericsson.
“Há uma boa autocrítica na indústria da IA e estamos a levar muito a sério a IA responsável”, afirma. “Há várias perguntas sem resposta em termos de direitos de propriedade intelectual do texto ou do código-fonte utilizado na formação. Além disso, a fuga de dados na consulta dos modelos, a parcialidade, os erros factuais, a falta de exaustividade, a granularidade ou a falta de precisão do modelo limitam certamente a utilização dos modelos.
“Com uma grande capacidade vem uma grande responsabilidade e nós apoiamos e participamos no atual espírito de autocrítica e reflexões filosóficas sobre o que a IA pode trazer ao mundo”, afirma Wieselfors.
Alguns CIO, como Brian Kirkland, da Choice Hotels, estão a monitorizar a tecnologia, mas não consideram que a IA generativa esteja totalmente pronta para utilização comercial.
“Acredito que é importante que a indústria se certifique de que está ciente do risco, da recompensa e do impacto da utilização de tecnologias de IA generativas, como o ChatGPT. Existem riscos para a propriedade de dados e conteúdo gerado que devem ser compreendidos e geridos para evitar impactos negativos para a empresa”, diz Kirkland. “Ao mesmo tempo, há muitas vantagens e oportunidades a considerar. O lado positivo será significativo quando houver a capacidade de fundir com segurança um conjunto de dados privados com os dados públicos nesses sistemas.
“Vai haver uma mudança dramática na forma como a IA e a aprendizagem automática permitem o valor comercial através de tudo, desde o conteúdo de IA gerado até à análise comercial e à tomada de decisões complexas e significativas”, afirma o CIO da Choice Hotels.
Ninguém está a sugerir um controlo total sobre uma tecnologia tão poderosa e capaz de mudar a vida das pessoas.
Numa recente sondagem da Gartner a mais de 2500 executivos, 45% indicaram que a atenção em torno do ChatGPT os levou a aumentar os seus investimentos em IA. Mais de 70% afirmam que a sua empresa está atualmente a explorar a IA generativa e 19% têm projetos-piloto ou de produção em curso, com projetos de empresas como a Unilever e a CarMax a mostrarem-se já promissores.
Na conferência MIT Sloan CIO, que começa a 15 de maio, Irving Wladawsky-Berger será o anfitrião de um painel sobre os potenciais riscos e recompensas de entrar nas águas da IA generativa. Recentemente, ele organizou uma discussão pré-conferência sobre a tecnologia.
“Estamos todos entusiasmados com a IA generativa hoje”, disse o antigo investigador de longa data da IBM e atual investigador afiliado do MIT Sloan, citando grandes avanços na genómica esperados devido à IA.
Mas Wladawsky-Berger observou que a devida diligência exigida daqueles que adotam a tecnologia não será uma tarefa simples. “É preciso muito trabalho”, afirmou. “Temos de descobrir o que funciona, o que é seguro e que testes fazer. Essa é a parte que leva tempo”.
Outro CIO no painel, Wafaa Mamilli, diretor digital e de tecnologia da Zoetis, disse que a IA generativa está dando às empresas farmacêuticas maior confiança na cura de doenças humanas crônicas.
“Por causa dos avanços das tecnologias de IA generativa e do poder de computação na pesquisa genética, agora existem testes nos Estados Unidos e fora dos Estados Unidos, Japão e Europa que têm como objetivo curar o diabetes”, disse ela.
Barreiras de proteção e orientações: Fundamentos da IA generativa
Wall Street já tomou conhecimento da rápida adoção da IA generativa por parte da indústria. De acordo com a IDC, 2022 foi um ano recorde para investimentos em start-ups de IA generativa, com financiamento de capital superior a US $ 2.6 bilhões.
“Quer se trate de criação de conteúdo com Jasper.ai, criação de imagem com Midjourney ou processamento de texto com serviços Azure OpenAI, existe um modelo de base de IA generativa para impulsionar vários aspetos do seu negócio”, de acordo com um dos vários relatórios recentes da IDC sobre IA generativa.
E os CIO já têm os meios para colocar barreiras de proteção para avançar com segurança com pilotos de IA generativa, observa McCowan da Regeneron.
“É de importância crítica que você tenha políticas e diretrizes para gerenciar o acesso e os comportamentos daqueles que planejam usar as tecnologias e lembrar sua equipe de proteger a propriedade intelectual, PII [Informações de identificação pessoal], bem como reiterar que o que é compartilhado pode se tornar público”, diz McCowan.
“Reúna os seus inovadores e os seus advogados para encontrarem um modelo de utilização destas ferramentas baseado no risco e para saberem claramente quais os dados que podem ser expostos e quais os direitos que têm sobre os resultados destas soluções”, afirma. “Comece a utilizar as tecnologias com casos de utilização menos arriscados e aprenda com cada iteração. Comece já ou ficará a perder.”
David Truog, analista da Forrester Research, observa que os líderes da IA têm razão em colocar o rótulo de aviso na IA generativa antes de as empresas começarem a pilotar e a utilizar a IA generativa na produção. Mas ele também está confiante de que isso pode ser feito.
“Não creio que parar ou fazer uma pausa na IA seja o caminho certo”, afirma Truog. “O caminho mais pragmático e construtivo é ser criterioso na seleção de casos de uso em que as IA especializadas podem ajudar, incorporar proteções bem pensadas e ter uma estratégia intencional de air-gapping. Esse seria um ponto de partida”.
Um chefe de TI DevOps de uma empresa de consultoria aponta várias maneiras pelas quais os CIO podem mitigar o risco ao usar IA generativa, incluindo pensar como um capitalista de risco; entender claramente o valor da tecnologia; determinar considerações éticas e legais antes do teste; experimentar, mas não se apressar em investimentos; e considerar as implicações do ponto de vista do cliente.
“Os CIO inteligentes formarão comités de supervisão ou estabelecerão parcerias com consultores externos que podem orientar a organização através da implementação e ajudar a estabelecer directrizes para promover a utilização responsável”, afirma Rod Cope, CTO da Perforce, com sede em Minneapolis. “Embora o investimento em IA forneça um valor tremendo para a empresa, implementá-lo em sua pilha de tecnologia requer uma consideração cuidadosa para proteger você, sua organização e seus clientes.”
Embora a ascensão da IA generativa certamente tenha impacto nos empregos humanos, alguns líderes de TI, como Ed Fox, CTO do provedor de serviços gerenciados MetTel, acreditam que as consequências podem ser exageradas, embora todos provavelmente tenham que se adaptar ou ficar para trás.
“Algumas pessoas perderão empregos durante este despertar da IA generativa, mas não na medida em que alguns estão a prever”, afirma Fox. “Aqueles de nós que não abraçarem a enciclopédia em tempo real serão ultrapassados.”
Ainda assim, se há um tema certo é que, para a maioria dos CIO, proceder com cautela é o melhor caminho a seguir. O mesmo acontece com o envolvimento.
Os CIO devem encontrar um equilíbrio entre “regulamentos rigorosos que sufocam a inovação e diretrizes para garantir que a IA é desenvolvida e utilizada de forma responsável”, diz Tom Richer, diretor-geral do Google Business Group da Wipro, referindo que está a colaborar com a sua alma mater, Cornell, e a sua Iniciativa de IA, para proceder com prudência.
“É vital que os CIO e os executivos de TI estejam conscientes dos potenciais riscos e benefícios da IA generativa e trabalhem com especialistas na área para desenvolver estratégias responsáveis para a sua utilização”, afirma Richer. “Esta colaboração tem de envolver universidades, grandes empresas de tecnologia, grupos de reflexão e centros de investigação governamentais para desenvolver as melhores práticas e diretrizes para o desenvolvimento e implementação de tecnologias de IA.”
