10 perguntas sobre Inteligência Artificial para você fazer a seus fornecedores

PANROTAS / Artur Luiz Andrade

Praticamente todos os seminários educacionais da GBTA Convention, em Denver, abordaram a Inteligência Artificial e suas aplicações, desafios e disrupções na indústria de Viagens. “Tudo vai mudar. Não vamos mais reservar e comprar viagens como fazemos hoje.” A frase de uma painelista de um dos seminários resume o sentimento geral. Nada será como antes. Mas é preciso adicionar uma outra variável: a incerteza. Nada será como antes, mas não sabemos como será esse futuro dominado pela IA. Por exemplo, se “futuro dominado” significará uso abrangente de IA ou um mundo subjugado por ela.

Não tem como prever o futuro (foi a tônica do evento, aliás), tanto por conta da IA, como, no curto prazo, por causa de guerras físicas, políticas e comerciais. O mundo está quebrado e a IA pode unir as pontas, de uma forma mais ou menos amigável, ou criar algo que ainda não vislumbramos o que seria (a não ser as mentes brilhantes por trás das techs mundo afora).

Jennifer Steinke, da Moderna, Jay Richmond, da Amadeus, e Dan Kroeger, da Cornerstone, lideraram o seminário: 10 perguntas sobre IA que você deveria fazer ao seu fornecedor (e vice-versa), que ajudou a mapear os riscos e aplicações que já estão entre nós.

Kroeger dividiu o seminário em três momentos, que definem bem como devemos nos comportar em relação ao uso da Inteligência Artificial, especialmente nos negócios:

• Get scared/Fique assustado: pois há riscos que não podemos ignorar
• Get smart/Fique esperto: pois há perguntas que precisam ser feitas, inclusive para si mesmo
• Get going/Siga em frente: pois há ações para serem tomadas na sequência

O executivo da Cornerstone citou casos famosos de uso de IA por grandes empresas, pois pode haver casos similares no Turismo.

• O primeiro caso foi o da Samsung, com vazamento de dados (incluindo códigos fonte confidenciais) feito por alguns funcionários no ChatGPT. A falta de uma política de uso de dados fez os colaboradores exporem dados que não poderiam estar no ChatGPT. O mesmo vale para o Turismo, cujas empresas usam dados sensíveis em contratos, listas de viajantes e notas internas das empresas.
• O caso da Zoom também foi mencionado. A empresa atualizou seus Termos de Serviço e incluiu a utilização de dados dos clientes para treinamento da IA. Muitos clientes nãos e atentaram para a mudança no contrato com o serviço e não é raro veros atualizações vagas também no Turismo. “Seus dados podem ser usados para melhorar nosso algoritmo”, dizem algumas cláusulas. Você está de acordo? Leu essa autorização?
• O terceiro caso apresentado foi o do The New York Times, que teve dados usados pela OpenIA para aperfeiçoar a IA. Como muitas companhias não monitoram os dados que estão expostos e podem ser usados pela IA, o caso serve de alerta. O que é público e privado, em termos de conteúdo na web? O conteúdo público na rede pode ser utilizado pela IA livremente? O que sua empresa expõe na internet e que pode ser usado? Conteúdo de call center? A empresa tem controle dos documentos que estão públicos e que podem ser usados pela IA?
• Mais um caso, dessa vez do Turismo: o chatbot da Air Canada deu informações erradas sobre reembolso e a companhia foi considerada responsável. Comunicados e respostas dadas pela IA podem ser consideradas oficiais e as empresas são legalmente responsáveis por essa interação com os clientes.

Dito isso, vamos às 10 perguntas que precisam ser feitas sobre IA a seus parceiros comerciais:

Exposição de dados (não assuma que seus dados estão protegidos. Pergunte como eles estão fora do alcance da IA do fornecedor)

• 1 – Como você evita que meus dados sejam usados para treinamento de IA – hoje e no futuro?
• 2 – Você isola meus dados dos dados de outros clientes, além de sistemas e do workflow da IA?
• 3 – Que controles você tem para detectar e bloquear o mau uso pela IA?

Transparência e vigilância (Confie, mas verifique – e assegure-se de que você possa ver tudo o que importa)

• 4 – Posso auditar quem acessou meus dados – e como foram utilizados?
• 5 – Que alertas ou relatórios eu receberei se meus dados forem acessados por um sistema de IA?
• 6 – Com que frequência nós usaremos juntos suas políticas de proteção de dados e IA?

Legalidade e Governança

O que está escrito é o que te protege (se você não estipular em contrato, deixará a porta aberta)

• 7 – Nosso contrato proíbe explicitamente o uso de nossos dados para treinamento ou desenvolvimento de modelos de IA?
• 8 – Qual a política de retenção de dados – e podemos personalizá-la ou encurtá-la?
• 9 – Que certificações e auditorias você tem – e quando foi a última revisão?
• 10 – O que ocorre no caso de um incidente com dados – o quão rapidamente seremos notificados e quais as penalidades?

PANROTAS / Artur Luiz Andrade

Ao final, o trio resumiu as lições aprendidas e os próximos passos:

Seus dados já estão em risco

• Exposição não requer um vazamento – um prompt ou uma cláusula vaga já é suficiente
• Sistemas de IA podem reter e reutilizar seus dados sem qualquer notificação
• Prevenção é melhor que resposta a vazamentos

Pergunte as perguntas certas – e depois verifique

• Não pare no “sim” – pergunte por acessos, auditorias e documentação
• Use as 10 perguntas regularmente
• “Confie, mas verifique” deve virar uma prática constante

O que você pode fazer agora?

• Reveja as cláusulas de IA nos contratos com seus 3 maiores fornecedores
• Pergunte por logins de acesso e políticas de retenção de dados
• Desenhe ou atualize sua política interna de uso de IA

Inclua dentro de seu processo

• Adicionar risco de IA às listas de verificação de integração e renovação de fornecedores
• Envolva os departamentos de Segurança da Informação, Jurídico e Procurement nas revisões
• Estabeleça check-ins constantes da política – IA evolui rapidamente

Mais questões levantadas sobre IA na GBTA:

• Os colaboradores de sua empresa passam ou já passaram por um treinamento sobre IA? Deveriam
• Sua empresa tem uma estratégia para uso de IA?
• O uso de IA é monitorado para ter sua performance avaliada?
• Sua empresa está preparada para a nova forma de vender e comprar viagens (com IA) e se relacionar com fornecedores?
• Você já fez o levantamento dos custos da IA que você precisa em seus negócios?
• Com a IA avançada em seu negócio, de quantas pessoas você vai precisar, para fazer o que e quais serão as prioridades desse capital humano?
• IA vai evitar novas contratações ou acelerar demissões?
• Não fique de fora das discussões sobre IA – ou seja, sobre o futuro dos negócios e do Turismo.

A PANROTAS viajou a convite da GBTA e United Airlines, com proteção GTA