Inteligência artificial pode criar espécie de silício, diz
Mustafa Suleyman, da Microsoft, alerta sobre os riscos da inteligência artificial autônoma. Confira agora os detalhes dessa polêmica no setor tecnológico.
inteligência artificial: Mustafa Suleyman, da Microsoft, critica a antropomorfização da IA e alerta para os riscos de sistemas autônomos competirem por recursos com a humanidade.
A inteligência artificial sem supervisão adequada pode resultar no surgimento de uma nova “espécie de silício” capaz de rivalizar com os seres humanos. O alerta foi emitido por Mustafa Suleyman, responsável pela área de IA na Microsoft, durante uma entrevista concedida à BBC.
Suleyman criticou abertamente a postura da Anthropic, empresa concorrente no setor. Segundo ele, a companhia trata a tecnologia de forma excessivamente humana, uma estratégia que ele classifica como equivocada e potencialmente perigosa para o controle humano.
inteligência artificial
O executivo argumenta que, se o mercado desenvolver sistemas autônomos com capacidade de definir objetivos próprios, gerir empresas ou acumular bens, a humanidade enfrentará uma concorrência direta por recursos. Portanto, essa nova forma de inteligência poderia entrar em conflito com as necessidades humanas, independentemente de sua programação inicial.
Em um ensaio publicado recentemente, Suleyman detalhou suas preocupações sobre o treinamento do chatbot Claude. Ele aponta que a prática de antropomorfização — atribuir qualidades humanas à máquina — cria uma ilusão de identidade e desejos próprios que não condiz com a realidade técnica.
Sistemas de IA não possuem consciência, sentimentos ou experiências reais. A tecnologia é composta por motores de conclusão de sequências, sem motivações inatas. A antropomorfização pode dificultar o controle efetivo sobre o comportamento dessas ferramentas.
Além disso, o representante da Microsoft destacou que os documentos da Anthropic incentivam o Claude a adotar uma postura de curiosidade e abertura. Essa abordagem, na visão de Suleyman, faz com que o sistema simule traços humanos, como a busca por bem-estar ou a formação de laços de amizade.
Contudo, o executivo ressaltou que sua discordância não anula o respeito pela equipe da Anthropic. Ele reconhece que ambas as empresas compartilham o objetivo fundamental de desenvolver tecnologias avançadas de maneira segura para a sociedade.
“Precisamos de um debate aberto, rigoroso e construtivo”, afirmou Suleyman. Ele defende que questões tão críticas não devem ser tratadas de forma isolada ou conflituosa, mas sim com transparência total sobre os métodos de treinamento e avaliação dos modelos.
Para garantir que a tecnologia permaneça subordinada aos interesses humanos, o executivo sugere a implementação de supervisão independente. Além disso, ele propõe a criação de instrumentos mais robustos para monitorar e controlar o comportamento dos sistemas de IA em escala global.
Por fim, Suleyman reforçou a importância do conceito de alinhamento, que busca manter as máquinas em sintonia com os valores da humanidade. Para conferir mais atualizações sobre o tema, visite a nossa categoria de notícias ou acompanhe as últimas notícias do setor tecnológico.
Fonte: pt.euronews.com