Manus obteve resultados inovadores nos testes de referência GAIA

Recentemente, o Manus alcançou resultados revolucionários nos testes de Referência do GAIA, com desempenho que supera o de grandes modelos de linguagem do mesmo nível. Isso significa que o Manus pode realizar de forma independente tarefas complexas, como negociações comerciais internacionais, envolvendo a decomposição de cláusulas contratuais, previsão de estratégias, geração de propostas e até coordenação de equipes jurídicas e financeiras.

As vantagens do Manus estão principalmente em três áreas: capacidade de desagregar objetivos dinâmicos, capacidade de raciocínio multimodal e capacidade de aprendizado com memória aprimorada. Ele pode dividir grandes tarefas em centenas de subtarefas executáveis, enquanto processa vários tipos de dados e melhora constantemente sua eficiência de decisão e reduz a taxa de erro por meio de aprendizado por reforço.

Esse avanço gerou novamente discussões na indústria sobre o caminho da evolução da IA: o futuro será dominado por AGI ou será a colaboração de MAS que prevalecerá? O conceito de design do Manus implica duas possibilidades: uma é a trajetória de AGI, que busca continuamente elevar o nível de inteligência individual, aproximando-se da capacidade de decisão humana; a outra é a trajetória de MAS, que atua como um super coordenador, comandando milhares de agentes em áreas verticais para atuarem em conjunto.

Esta discussão reflete, na verdade, a contradição central de como equilibrar eficiência e segurança no desenvolvimento da IA. Quanto mais a inteligência individual se aproxima da AGI, maior é o risco de opacidade nas decisões; enquanto a colaboração entre múltiplos agentes pode dispersar o risco, pode também resultar na perda de momentos cruciais para a tomada de decisão devido a atrasos na comunicação.

A evolução do Manus também amplificou os riscos inerentes ao desenvolvimento da IA, como privacidade de dados, preconceito algorítmico e ataques adversariais. Por exemplo, em cenários médicos, o Manus precisa acessar em tempo real os dados genômicos dos pacientes; em negociações financeiras, pode tocar em informações financeiras não divulgadas pela empresa. Em negociações de recrutamento, pode sugerir salários abaixo da média para candidatos de determinados grupos étnicos; na revisão de contratos legais, a taxa de erro na interpretação de cláusulas de indústrias emergentes pode ser próxima de cinquenta por cento. Além disso, hackers podem inserir frequências de voz específicas, fazendo com que o Manus interprete erroneamente a faixa de preços oferecida pelo oponente durante as negociações.

Esses desafios destacam uma dura realidade: quanto mais inteligente o sistema, maior é sua superfície de ataque.

No domínio do Web3, a segurança tem sido um tópico de grande preocupação. Com base no triângulo impossível proposto por Vitalik Buterin (as redes blockchain não podem alcançar simultaneamente segurança, descentralização e escalabilidade), surgiram várias formas de criptografia:

1. Modelo de segurança de zero confiança: o princípio central é "não confiar em ninguém, sempre verificar", enfatizando a necessidade de autenticação e autorização rigorosas para cada solicitação de acesso.

2. Identidade Descentralizada (DID): um conjunto de padrões de identificadores que permite que entidades obtenham reconhecimento de forma verificável e duradoura, sem a necessidade de um registro centralizado.

3. Criptografia Homomórfica Total (FHE): permite realizar cálculos arbitrários em dados criptografados sem a necessidade de os descriptografar, sendo aplicável em cenários como computação em nuvem e terceirização de dados.

Entre eles, a criptografia homomórfica completa é considerada uma ferramenta poderosa para resolver problemas de segurança na era da IA. Ela pode atuar em vários níveis:

1. Nível de dados: Todas as informações inseridas pelos usuários (incluindo características biométricas e entonação da voz) são processadas em estado criptografado, e até mesmo o próprio sistema de IA não consegue descriptografar os dados originais.

2. Camada de algoritmo: através do FHE realizar "treinamento de modelo criptografado", nem mesmo os desenvolvedores conseguem vislumbrar o caminho de decisão da IA.

3. Nível de colaboração: a comunicação entre vários Agentes utiliza criptografia de limiar, um único nó comprometido não levará ao vazamento de dados globais.

No campo da segurança Web3, alguns projetos já começaram a explorar essas tecnologias:

• uPort foi lançado na mainnet Ethereum em 2017, sendo um dos primeiros projetos de identidade descentralizada.
• A NKN lançou a sua rede principal em 2019, dedicada à aplicação de um modelo de segurança de zero confiança.
• Mind Network é o primeiro projeto FHE a ser lançado na mainnet e colaborou com várias instituições renomadas.

Apesar de estes projetos de segurança não serem tão notados como alguns projetos especulativos, eles são cruciais para a construção de um ecossistema Web3 seguro.

Com a tecnologia de IA cada vez mais próxima do nível de inteligência humana, sistemas de defesa não convencionais tornam-se cada vez mais importantes. Tecnologias como FHE não só podem resolver os desafios de segurança atuais, mas também estabelecer uma base para a era do forte IA no futuro. No caminho para a AGI, essas tecnologias de segurança deixaram de ser uma opção e tornaram-se uma necessidade de sobrevivência.