Durante a conferência AWS re:Invent em Las Vegas, o CEO da AWS, Adam Selipsky, anunciou uma nova ferramenta chamada Guardrails para o Amazon Bedrock. Essa ferramenta permitirá às empresas implementarem salvaguardas personalizadas em modelos de IA generativa (LLMs), possibilitando respostas relevantes e seguras alinhadas com suas políticas e princípios corporativos.
Os LLMs têm sido amplamente utilizados em uma variedade de aplicações, mas também apresentam desafios. Um dos principais desafios é como controlar as respostas geradas pelos modelos para garantir sua adequação, segurança e alinhamento com as políticas da empresa. Os Guardrails para o Amazon Bedrock fornecem uma solução para esse problema, permitindo que as empresas definam os tópicos e palavras fora dos limites do modelo. Isso ajuda a evitar respostas irrelevantes, inadequadas ou ofensivas que podem prejudicar a marca ou até mesmo causar danos. Por exemplo, uma instituição financeira pode evitar que seu bot forneça conselhos de investimento inapropriados que os clientes possam levar a sério.
Além disso, a ferramenta permite filtrar palavras e frases específicas para remover qualquer conteúdo ofensivo e aplicar diferentes níveis de filtragem para diferentes palavras e frases. Isso permite que o modelo saiba o que está fora dos limites e evite fornecer informações indesejadas para os usuários. Além disso, a ferramenta também ajuda a filtrar dados PII (Informações Pessoalmente Identificáveis) para proteger a privacidade dos usuários.
Ray Wang, fundador e analista principal da Constellation Research, destaca a importância das ferramentas de controle de resposta para desenvolvedores que trabalham com LLMs. Ele afirma que uma das maiores dificuldades é criar IA responsável que seja segura e fácil de usar, e a filtragem de conteúdo e dados PII estão entre os principais problemas enfrentados pelos desenvolvedores de IA.
Os Guardrails para o Amazon Bedrock foram anunciados em prévia e estarão disponíveis para todos os clientes em algum momento do próximo ano. Essa é mais uma das iniciativas da AWS para garantir o desenvolvimento e utilização responsável da IA generativa, proporcionando transparência, explicabilidade e reversibilidade nas respostas geradas pelos modelos. Com essa nova ferramenta, as empresas poderão aproveitar todo o potencial da IA generativa de forma segura e alinhada com suas necessidades e políticas corporativas.
Referências:
AWS adds Guardrails for Amazon Bedrock to help safeguard LLMs
Amazon’s Selipsky Pounces On Safe, Diverse AI
Aws Announces Guardrails For Amazon Bedrock For …
Amazon’s Q AI assistant lets users ask questions about their …
Highlights from the AWS re:Invent keynote: Q AI, strong …
AWS unveils new AI chatbot, chips, Nvidia partnership
Deixe um comentário