A IA generativa pode automatizar tarefas repetitivas em seus negócios, como entrada de dados, geração de relatórios ou agendamento, liberando os funcionários para se concentrarem em atividades mais estratégicas e de valor agregado, levando ao potencial de maior eficiência operacional e produtividade.
Em comparação com a contratação de pessoal adicional ou a terceirização de determinadas tarefas, o uso de IA generativa pode ser uma solução econômica, eliminando a necessidade de recursos internos adicionais ou provedores de serviços externos.
No entanto, os modelos generativos de IA têm a capacidade de criar saídas inesperadas e não intencionais. Mesmo com treinamento e testes rigorosos, esses modelos podem produzir conteúdo ofensivo, inapropriado e/ou ilegal. As organizações devem ter mecanismos em vigor (a) para evitar a disseminação de resultados não intencionais e (b) para lidar com qualquer precipitação que escape desses processos de proteção.
Recrutamento e RH
Tarefas monótonas, como seleção e seleção de candidatos, podem ser concluídas cada vez mais usando software de IA. As empresas que promovem esse software podem dizer que a IA tem uma taxa de erro de 6% versus uma taxa de erro humano correspondente de 11,3%, mas em uma declaração aparentemente definitiva, muito fica por dizer. Um empregador sabe quais instruções deu a um funcionário humano em termos de quais sites ou bancos de dados devem ser verificados e que tipo de parâmetros devem ser levados em consideração durante uma pesquisa específica. Com a IA generativa, é muito mais difícil estabelecer que os dados usados em qualquer pesquisa foram obtidos adequadamente de maneira compatível com os regulamentos de segurança e privacidade de dados.
As empresas também precisam estar cientes de que os sistemas de IA generativa podem falhar em identificar candidatos que não seriam menos adequados para uma função específica, mas que podem ser excluídos dos critérios de sucesso em virtude de terem se saído menos academicamente e/ou terem tido um desempenho inferior. histórico de carreira impressionante, como resultado de uma ampla gama de possíveis fatores, incluindo (sem limitação) ter uma deficiência física, ser neurodivergente, ter responsabilidades de cuidar ou ter crescido em uma casa onde o inglês não era a primeira língua. Se esses preconceitos não forem controlados, eles podem perpetuar os preconceitos e a discriminação existentes na sociedade.
Observe também o Artigo 22(1) do GDPR e o GDPR do Reino Unido:
“O titular dos dados tem o direito de não ficar sujeito a uma decisão baseada exclusivamente no tratamento automatizado, incluindo a definição de perfis, que produza efeitos jurídicos a seu respeito ou efeitos igualmente significativos para ele”.
Em suma, embora ter um software de IA possa reduzir a necessidade de envolvimento humano nos processos de recrutamento e RH, alguém ainda precisa realizar verificações e balanços sobre o resultado de qualquer processo automatizado de tomada de decisão.
Dados do cliente
A IA pode ser uma ferramenta útil para a criação de banco de dados, sendo mais rápida e eficiente na captura e registro de dados de forma mais consistente do que um humano correspondente poderia alcançar. Ele pode sinalizar quando os detalhes não foram verificados nos doze meses anteriores e, portanto, quando eles precisam ser atualizados. Ele pode registrar de forma consistente se as solicitações de titulares de dados foram feitas e o resultado dessas solicitações. Tudo isso pode economizar tempo e recursos e até mesmo apoiar a conformidade legal, mas nada pode evitar a necessidade de verificação cruzada manual da precisão dos dados. Caso contrário, o risco pode ser que o software de IA esteja verificando seus próprios dados em um círculo inútil de falsa confiança.
As empresas podem usar IA generativa para criar chatbots que entendam e respondam às consultas dos clientes, reduzindo a necessidade de intervenção humana. Isso pode ajudar as empresas a melhorar os tempos de resposta, fornecer suporte 24 horas por dia, 7 dias por semana e lidar com um volume maior de consultas sem aumentar significativamente o número de funcionários. No entanto, uma porcentagem das interações entre chatbots e clientes precisa ser monitorada de perto pelos funcionários de atendimento ao cliente para identificar falhas e fontes de irritação, que podem levar a mais reclamações de clientes e, por fim, a um aumento nas taxas de atrito do cliente.
A tensão com a legislação de privacidade de dados provavelmente surgirá no contexto do fornecimento de novos leads de clientes. As empresas precisam se certificar de que entendem como os dados de leads do cliente foram obtidos e que foram obtidos de maneira consistente com as leis de privacidade. As informações derivadas do software de IA generativo devem sempre ser verificadas em relação ao material disponível publicamente quanto à consistência e precisão.
Propriedade intelectual
A IA generativa pode ajudar pequenas empresas a criar conteúdo de alta qualidade em grande escala. Quer se trate de postagens de blog, atualizações de mídia social, descrições de produtos ou materiais de marketing, a IA pode gerar texto que imita a escrita humana. Esse recurso economiza tempo e recursos para pequenas empresas que podem não ter equipes de criação de conteúdo dedicadas.
No entanto, também tem o potencial de criar conteúdo que viole os direitos de propriedade intelectual existentes. Esse risco é particularmente relevante em setores como mídia, publicação e artes criativas, onde a propriedade e a proteção da propriedade intelectual são primordiais.
A IA generativa também pode produzir conteúdo ofensivo, discriminatório ou controverso. Se o conteúdo não for devidamente examinado por indivíduos devidamente qualificados, sua liberação para o domínio público pode prejudicar gravemente a reputação e a imagem da marca de uma empresa.
Responsabilidade pelo produto e IA
A AI Act é uma proposta de lei europeia sobre inteligência artificial (IA) – a primeira lei sobre IA de um grande regulador em qualquer lugar, que propõe três categorias de risco para IA. Em primeiro lugar, existem aplicativos e sistemas considerados como criando um risco inaceitável, como a pontuação social administrada pelo governo do tipo usado na China. Estes estarão sujeitos a uma proibição total. Em segundo lugar, existem aplicativos de alto risco, como ferramentas de digitalização de currículos que classificam os candidatos a empregos. Estas estarão sujeitas a requisitos legais específicos (a determinar mas ver acima os riscos já identificados com tais aplicações). Parece que os aplicativos não explicitamente banidos ou listados como de alto risco serão deixados sem regulamentação.
As empresas precisam garantir que entendam essa área da lei em rápida evolução em todas as jurisdições em que operam e que as ferramentas de IA que empregam permaneçam em conformidade com o cenário legal e regulatório em constante evolução.
Como um aparte, o Reino Unido não está seguindo a abordagem da UE em termos de adoção de nova legislação ou criação de um novo regulador para IA. Em vez disso, está exigindo que os reguladores existentes, incluindo o Information Commissioner’s Office (ICO) do Reino Unido, assumam a responsabilidade pelo estabelecimento, promoção e supervisão da IA responsável em seus respectivos setores. As atividades dos reguladores seriam meramente “reforçadas” pelo estabelecimento de novas funções de apoio e supervisão dentro do governo central. Resta saber até que ponto essa tentativa de unir o governo pode funcionar.
Conclusões
Como acontece com qualquer ferramenta de negócios, sua empresa precisa se certificar de que as ferramentas de IA escolhidas funcionarão de maneira que possa ser verificada continuamente como estando em conformidade com as leis aplicáveis, com pouca probabilidade de infringir os direitos de propriedade intelectual de terceiros e de resultar em danos à reputação do seu negócio. É necessário haver verificações e balanços humanos em cada estágio para garantir que sua empresa permaneça tão protegida quanto possível.
Finalmente, você deve sempre lembrar que indenizações ilimitadas contra um negócio de IA não protegerão seu negócio se o negócio de IA não tiver a lei do seu lado ou não tiver substância financeira ou meios para defendê-lo. É a sua devida diligência que irá proteger o seu negócio e não as garantias de terceiros.
Leitura adicional
Por que sua empresa precisa de chatbots para melhorar a experiência do cliente – Como um chatbot pode melhorar a experiência de seus clientes? E, se você for fazer um investimento, quais etapas você deve seguir para garantir que a implementação ocorra sem problemas? Aqui, Chris Crombie descobre
Pesquisa por voz para pequenas empresas – A maneira como as pessoas pesquisam informações está mudando. Siga este guia para avançar e otimizar sua pesquisa por voz para sua empresa
As principais qualidades a serem procuradas no currículo de um candidato – Aqui estão algumas dicas para pequenas empresas sobre como identificar os melhores candidatos por meio de seus currículos
