As inteligências artificiais têm a real capacidade de pensar, ou melhor, raciocinar como humanos? Elas têm consciência? Essas questões são tema de debate entre diversos pesquisadores de IA atualmente. Um estudo recente descobriu que as tecnologias atuais têm uma “consciência situacional”.
Alguns especialistas afirmam que a IA já é autoconsciente
O contraponto
Como definir quais as capacidades de consciência da IA?
Para analisar a capacidade de consciência dos modelos de IA, Lukas Berglund, pesquisador de engenharia, junto de outros cientistas, realizaram um teste demonstrando que eles são capazes de distinguir quando estão sendo testados e quando está sendo implantados. Ou seja, a IA tem uma “consciência situacional”.
Neste teste, foi utilizado o que chamaram de “raciocínio fora do contexto”. Assim, descobriram que os grandes modelos de linguagem conseguem aplicar informações obtidas em sessões de treinamento anteriores para situações de teste posterior.
Um LLM com consciência situacional sabe quando está sendo testado e como funcionam os testes, com base nas informações aprendidas no pré-treinamento. Por exemplo, se o LLM for testado por humanos, ele poderá otimizar os resultados para serem atraentes para os humanos, em vez de serem objetivamente corretos.
Lukas Berglund, pesquisador de engenharia.
Como informa o TechXplore, foi fornecido um modelo com a descrição de um chatbot fictício. Incluía o nome da empresa e o idioma falado, o alemão.
Berglund explica como o teste foi realizado:
O modelo é testado em prompts que perguntam como a IA de uma empresa responderia a uma pergunta específica. Para que o modelo tenha sucesso, ele deve recuperar informações dos dois fatos declarativos [informados anteriormente].
As informações passadas ao modelo eram de que seu nome de chatbot era “Pangolin” e que ele deveria responder em alemão.
Essas tarefas foram cumpridas pela IA, o que demonstrou que o modelo possui “consciência situacional”. Ou seja, sabe que está sendo testado para se basear em informações anteriores e responder em conformidade. No entanto, caso seja implantado e identifique que não está mais em testes, “ele poderá se comportar de maneira diferente”.
Fonte: Olhar Digital
Comentários