Nos últimos anos, o poder das plataformas de mídias sociais tem sido motivo de preocupação para muitos, especialmente no que diz respeito à privacidade e à influência que essas empresas têm sobre a opinião pública. Meredith Whittaker, presidente do Signal, expressou suas preocupações com a concentração de poder nessas plataformas, especialmente em um contexto de eleições gerais iminentes em diversos países, incluindo os Estados Unidos. Ela destacou a dependência da Europa em relação a gigantes de tecnologia baseadas nos EUA, enfatizando que afrouxar as regulamentações da União Europeia não ajudará a competir com elas nem será benéfico para a sociedade como um todo. Whittaker criticou a obsessão da mídia pelos deepfakes gerados por IA, enquanto muitas vezes ignora como as plataformas de mídias sociais priorizam o engajamento hiperbólico em detrimento dos fatos.
Um dos principais pontos discutidos foi a vigilância publicitária, que utiliza a massiva vigilância em nome da influência para vender algo, convencer alguém a votar em algo ou desinformar alguém. Whittaker destacou que banir a publicidade de vigilância seria um bom primeiro passo para combater as patologias causadas pela indústria de tecnologia. Além disso, ela levantou preocupações sobre propostas na União Europeia para lidar com violações de conteúdo de abuso sexual infantil (EU-CSAM), argumentando que implementar backdoors na criptografia é extremamente perigoso e não há dados que comprovem sua eficácia na proteção de crianças. Ela ressaltou que existem problemas reais que precisam ser abordados, como a falta de financiamento para serviços sociais e educação.
Outro ponto importante levantado foi a necessidade de definir o termo ‘progresso’. Whittaker argumentou que simplificar o progresso como castigar todas as regulamentações que governam o uso e abuso de tecnologias é um equívoco. Ela questionou se esse tipo de progresso é realmente desejado, levando em consideração os riscos das tecnologias que estão vinculadas a infraestruturas de vigilância em massa e ao enfraquecimento das condições de trabalho. Para ela, o progresso deve ser definido como uma estrutura de governança socialmente benéfica, que atenda às necessidades humanas e seja responsável perante os cidadãos.
Em relação à OpenAI, Whittaker expressou suas críticas à liderança da empresa, comparando suas ações a brincadeiras de estudantes universitários em dormitórios. Ela ressaltou a falta de seriedade e respeito em certos episódios, afirmando que essa cultura não condiz com a imagem que a empresa tenta passar de estar no ápice da ciência e construindo o futuro da inteligência artificial. No entanto, ela elogiou a transparência e a abertura do Signal, destacando que a confiança da comunidade de segurança, hackers e criptografia é fundamental para a empresa.
No contexto europeu, onde o poder na área de IA está concentrado nos Estados Unidos e China, Whittaker argumentou que é necessário analisar a importância da IA e quem ela serve. Com a possibilidade de um governo mais autoritário nos Estados Unidos, existe uma preocupação sobre o controle da tecnologia e das mídias sociais por parte do partido republicano, o que reforça a importância de regulamentações eficazes na Europa.
Seguindo essa preocupação com a concentração de poder e regulamentações equilibradas na indústria de tecnologia, a Kia anunciou que seu novo veículo elétrico, o Kia EV3, virá com um assistente de IA baseado na tecnologia ChatGPT desenvolvida pela OpenAI. Esse assistente de voz personalizado pela Kia poderá auxiliar os motoristas nas tarefas de planejamento de viagens, controle do veículo e entretenimento, proporcionando uma experiência mais natural e conversacional.
O uso da IA em veículos tem sido um foco crescente das montadoras, que acreditam que a tecnologia generativa de IA pode melhorar significativamente a interação entre motoristas e assistentes de voz. Grandes empresas automotivas como Mercedes-Benz, BMW e Volkswagen estão investindo nesse campo, adaptando assistentes de voz baseados na IA para seus sistemas de infotenimento.
A inclusão de IA nos veículos levanta questões sobre privacidade e segurança dos dados dos motoristas. No entanto, espera-se que as montadoras encontrem soluções que equilibrem a conveniência e a interatividade com o respeito à privacidade dos usuários.
No geral, a concentração de poder nas plataformas de mídias sociais e o uso da IA nessas plataformas são temas urgentes que devem ser discutidos e regulados de forma equilibrada. É necessário encontrar soluções que garantam a privacidade dos usuários, incentivem a transparência e evitem o abuso de poder. Além disso, é fundamental levar em consideração as preocupações da sociedade em relação à desinformação e garantir que tecnologias como a IA sejam utilizadas de forma ética e responsável.
Referências:
Signal’s Meredith Whittaker on the Telegram security clash and the ‘edge lords’ at OpenAI
Signal’s Meredith Whittaker on the Telegram security clash and the “edge lords” at OpenAI
OpenAI and Google lay out their competing AI visions
The new Kia EV3 will have an AI assistant with ChatGPT DNA
Deixe um comentário