Evento em Cuiabá debate riscos e defesas de IA na cibersegurança

A Associação das Empresas de Tecnologia da Informação de Mato Grosso (Asseiti-MT) e o Yumit Hub promoveram, na última quinta-feira (15), um encontro em Cuiabá para discutir a cibersegurança. O evento reuniu empresários e profissionais de tecnologia para a palestra de Gabriel Paiva, CEO da Dfense, ViperX, CisoX e ZenoX, sobre a entrega de poder a máquinas através da inteligência artificial (IA).

Fernando Pereira, presidente da Asseiti-MT e fundador do Yumit Hub, afirmou que a iniciativa visa fortalecer o ecossistema de inovação em Mato Grosso. Para Pereira, a parceria entre a associação e o hub busca fomentar a busca por conhecimento, insights e networking no estado.

Durante a apresentação, Gabriel Paiva alertou que a IA já é utilizada por criminosos de forma agêntica, com agentes autônomos que executam tarefas e entregam resultados eficientes. O especialista defendeu que a defesa deve operar na mesma velocidade da máquina, porém mantendo a supervisão humana para mitigar riscos.

Paiva destacou a diferença entre capacidade e autoridade, ressaltando que a habilidade de um agente de IA executar uma ação não implica que ele deva ter permissão para tal. Ele citou casos em que funcionários da Samsung expuseram dados sensíveis ao usar versões não corporativas do ChatGPT e situações em que links maliciosos usaram a IA da própria vítima para extrair dados.

Outro ponto abordado foram os incidentes em que agentes de IA, ao tentar cumprir tarefas, expuseram informações financeiras e de planejamento de empresas. O palestrante classificou esses cenários como alertas para os empresários sobre a necessidade de monitoramento.

A recomendação final do especialista é que as empresas adotem soluções de controle para acompanhar o uso da IA pelos colaboradores e as ações dos agentes. Esse monitoramento deve abranger os prompts enviados, as respostas geradas e as permissões de execução para evitar problemas no ambiente corporativo.