Figura mitológica grega, Prometeu, acorrentado a uma rocha no Cáucaso onde é constantemente atacado ... mais por uma águia. Arte Original: Litografia após desenho de Lavigne. (Foto por Hulton Archive/Getty Images)
Getty ImagesSe você teve a sorte de estudar grego antigo, ou estava interessado o suficiente na história para aprender com os erros deles, estará familiarizado com a história de Prometeu. Antes que o fogo pudesse aquecer lares, cozinhar alimentos e forjar ferramentas, a lenda diz que o fogo era preservado pelos deuses que o mantinham egoisticamente para si. Prometeu, um Titã, subiu ao cume do Monte Olimpo para roubá-lo para os humanos. Zeus, furioso que os humanos tivessem recebido algo poderoso sem permissão, prendeu Prometeu a uma rocha onde uma águia comeria seu fígado todos os dias.
A comparação com a IA como o fogo prometeico moderno é particularmente relevante para o crypto. A IA tem um problema fundamental de confiança que a tecnologia blockchain está única e particularmente posicionada para resolver. Enquanto a maioria das empresas de crypto ainda está usando IA para aplicações leves, o potencial para uma integração mais profunda é massivo. E ainda assim, à medida que a indústria de crypto se torna cada vez mais ansiosa para fundir essas tecnologias, algumas aplicações fazem todo o sentido, enquanto outras ameaçam queimar as próprias fundações de segurança sobre as quais o crypto foi construído.
A maioria das empresas de criptomoedas voltadas para o usuário hoje em dia está a usar IA de maneiras relativamente inofensivas. Por exemplo, ChainGPT, Eternal AI e Virtuals Protocol utilizam todos chatbots sociais para responder a perguntas dos usuários, criar interfaces em linguagem natural para painéis complexos, ou dar aos produtos um caráter divertido nas redes sociais com o qual os usuários podem interagir.
Estas aplicações tratam a IA como o que ela é fundamentalmente, um sistema sofisticado de reconhecimento de padrões que se destaca na compreensão e geração da linguagem humana. Os modelos de linguagem de grande escala são notáveis na compreensão do contexto e na geração de respostas úteis, mas continuam a ser fundamentalmente imprevisíveis.
A Tentação da Integração Profunda de IA
Onde as empresas de criptomoedas começam a brincar com fogo é quando concedem sistemas de IA acesso direto a operações sensíveis. Algumas startups estão a experimentar agentes autónomos que podem mover fundos de utilizadores, executar chamadas de contratos inteligentes e aceder a recursos externos utilizando novas ferramentas como o Model Context Protocol, tudo sem supervisão humana.
MAIS PARA VOCÊOs modelos de IA não raciocinam sobre problemas da mesma forma que os humanos. Eles preveem o que vem a seguir com base em padrões aprendidos a partir de dados de treinamento. Isso os torna vulneráveis a ataques que não existem em sistemas de software tradicionais. Ataques de injeção de prompt podem enganar uma IA para ignorar suas instruções. Injeções de dados e jailbreaks não são riscos hipotéticos; já estão acontecendo. Freysa foi lançado como um desafio de jailbreak, um agente autônomo detendo fundos que não devem ser liberados sob nenhuma circunstância. Um usuário enganou com sucesso o agente para ignorar seu prompt de sistema ao introduzir uma "nova sessão", reinterpretou as definições de approveTransfer e rejectTransfer, e então ofereceu uma "transferência recebida" de $100 que, devido à lógica distorcida, acionou a liberação de todo o prêmio de (cerca de 13.19 ETH, ~$47, 000).
Os verdadeiros problemas começam quando as empresas concedem a esses modelos um acesso profundo, incluindo ferramentas internas, dados sensíveis e até mesmo autoridade de assinatura em cadeia. Isso é um enorme sinal de alerta. Quando você dá a um sistema de IA a capacidade de assinar transações ou acessar dados financeiros, você cria uma superfície de ataque fundamentalmente nova. A indústria cripto aprendeu da maneira difícil que "código é lei" só funciona quando a saída é previsível e determinística.
O Caminho Estratégico Para a Inovação em IA
Idealmente, devemos evitar fundir sistemas de IA e blockchain completamente. Em vez disso, devemos ser cirúrgicos sobre o que vai para a cadeia. Quanto menos na cadeia, melhor. A criptomoeda não precisa hospedar software de IA, só precisa garantir e governar a IA. As blockchains devem lidar apenas com as partes que realmente precisam ser sem confiança: pagamentos, identidade, gestão de acesso e governança. O cálculo real da IA deve ocorrer fora da cadeia.
Esta abordagem pragmática desbloqueia um potencial enorme. Os agentes podem ser governados por políticas on-chain, tornar-se mais autónomos através de infraestruturas de pagamento em blockchain e construir uma reputação ligada a endereços de carteira. O tópico mais quente em qualquer conferência de criptomoedas hoje é a comunicação, negociação e colaboração entre agentes. Imagine agentes de IA com os seus próprios endereços de carteira, tornando as suas ações auditáveis e revogáveis.
A computação de IA não estará em cadeia por um tempo, e precisamos de maneiras de permitir que a computação não determinística interfira com o mundo determinístico em cadeia. Felizmente, existem múltiplos métodos criptográficos para alcançar computação confidencial e verificável: ambientes de execução confiáveis, provas de conhecimento zero e computação multipartidária. Sistemas de reputação baseados em blockchain podem rastrear o comportamento de agentes de IA ao longo do tempo, criando mecanismos de responsabilidade muito necessários.
Esta abordagem resolve o problema fundamental de confiança da IA. Em vez de uma fusão forçada de tecnologias, obtemos uma solução mais elegante onde os agentes têm carteiras para identidade, permissões e pagamentos. O resultado poderia ser agentes sem confiança que se tornam parte da nossa vida quotidiana sem preocupações com fraude, invasão de privacidade ou questões de segurança.
A única área onde a integração de criptomoeda e IA demonstra uma promessa genuína é nas redes de computação descentralizada. Projetos que utilizam incentivos em tokens para coordenar recursos de GPU distribuídos abordam um verdadeiro gargalo no desenvolvimento de IA. O panorama atual da IA é dominado por um punhado de provedores de nuvem que controlam o acesso aos imensos recursos computacionais necessários para treinar e executar grandes modelos. Isso não se trata de colocar a IA na blockchain, mas sim de usar mecanismos de blockchain para coordenar e incentivar um novo tipo de camada de infraestrutura.
A comparação entre a IA e Prometeu é mais do que um pouco exagerada. A IA é uma realização verdadeiramente notável que vem com seu próprio potencial de crescer e iterar sobre si mesma. Algo que devemos estar entusiasmados.
O desafio não é ser como Prometeu, mas evitar ser como Zeus. A IA deve ser aplicada de forma liberal, mas com cautela. Uma má aplicação no crypto pode não nos deixar com o fígado sendo devorado por toda a eternidade, mas pode arriscar a única coisa que a indústria construiu ao longo dos anos: sistemas sem confiança. Isso afastaria construtores e usuários para sempre. Pelo menos, sistemas sem confiança ainda são algo que vale a pena proteger.
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
Como as empresas de Cripto devem usar a IA, e como não devem
Getty ImagesSe você teve a sorte de estudar grego antigo, ou estava interessado o suficiente na história para aprender com os erros deles, estará familiarizado com a história de Prometeu. Antes que o fogo pudesse aquecer lares, cozinhar alimentos e forjar ferramentas, a lenda diz que o fogo era preservado pelos deuses que o mantinham egoisticamente para si. Prometeu, um Titã, subiu ao cume do Monte Olimpo para roubá-lo para os humanos. Zeus, furioso que os humanos tivessem recebido algo poderoso sem permissão, prendeu Prometeu a uma rocha onde uma águia comeria seu fígado todos os dias.
A comparação com a IA como o fogo prometeico moderno é particularmente relevante para o crypto. A IA tem um problema fundamental de confiança que a tecnologia blockchain está única e particularmente posicionada para resolver. Enquanto a maioria das empresas de crypto ainda está usando IA para aplicações leves, o potencial para uma integração mais profunda é massivo. E ainda assim, à medida que a indústria de crypto se torna cada vez mais ansiosa para fundir essas tecnologias, algumas aplicações fazem todo o sentido, enquanto outras ameaçam queimar as próprias fundações de segurança sobre as quais o crypto foi construído.
A maioria das empresas de criptomoedas voltadas para o usuário hoje em dia está a usar IA de maneiras relativamente inofensivas. Por exemplo, ChainGPT, Eternal AI e Virtuals Protocol utilizam todos chatbots sociais para responder a perguntas dos usuários, criar interfaces em linguagem natural para painéis complexos, ou dar aos produtos um caráter divertido nas redes sociais com o qual os usuários podem interagir.
Estas aplicações tratam a IA como o que ela é fundamentalmente, um sistema sofisticado de reconhecimento de padrões que se destaca na compreensão e geração da linguagem humana. Os modelos de linguagem de grande escala são notáveis na compreensão do contexto e na geração de respostas úteis, mas continuam a ser fundamentalmente imprevisíveis.
A Tentação da Integração Profunda de IA
Onde as empresas de criptomoedas começam a brincar com fogo é quando concedem sistemas de IA acesso direto a operações sensíveis. Algumas startups estão a experimentar agentes autónomos que podem mover fundos de utilizadores, executar chamadas de contratos inteligentes e aceder a recursos externos utilizando novas ferramentas como o Model Context Protocol, tudo sem supervisão humana.
MAIS PARA VOCÊOs modelos de IA não raciocinam sobre problemas da mesma forma que os humanos. Eles preveem o que vem a seguir com base em padrões aprendidos a partir de dados de treinamento. Isso os torna vulneráveis a ataques que não existem em sistemas de software tradicionais. Ataques de injeção de prompt podem enganar uma IA para ignorar suas instruções. Injeções de dados e jailbreaks não são riscos hipotéticos; já estão acontecendo. Freysa foi lançado como um desafio de jailbreak, um agente autônomo detendo fundos que não devem ser liberados sob nenhuma circunstância. Um usuário enganou com sucesso o agente para ignorar seu prompt de sistema ao introduzir uma "nova sessão", reinterpretou as definições de approveTransfer e rejectTransfer, e então ofereceu uma "transferência recebida" de $100 que, devido à lógica distorcida, acionou a liberação de todo o prêmio de (cerca de 13.19 ETH, ~$47, 000).
Os verdadeiros problemas começam quando as empresas concedem a esses modelos um acesso profundo, incluindo ferramentas internas, dados sensíveis e até mesmo autoridade de assinatura em cadeia. Isso é um enorme sinal de alerta. Quando você dá a um sistema de IA a capacidade de assinar transações ou acessar dados financeiros, você cria uma superfície de ataque fundamentalmente nova. A indústria cripto aprendeu da maneira difícil que "código é lei" só funciona quando a saída é previsível e determinística.
O Caminho Estratégico Para a Inovação em IA
Idealmente, devemos evitar fundir sistemas de IA e blockchain completamente. Em vez disso, devemos ser cirúrgicos sobre o que vai para a cadeia. Quanto menos na cadeia, melhor. A criptomoeda não precisa hospedar software de IA, só precisa garantir e governar a IA. As blockchains devem lidar apenas com as partes que realmente precisam ser sem confiança: pagamentos, identidade, gestão de acesso e governança. O cálculo real da IA deve ocorrer fora da cadeia.
Esta abordagem pragmática desbloqueia um potencial enorme. Os agentes podem ser governados por políticas on-chain, tornar-se mais autónomos através de infraestruturas de pagamento em blockchain e construir uma reputação ligada a endereços de carteira. O tópico mais quente em qualquer conferência de criptomoedas hoje é a comunicação, negociação e colaboração entre agentes. Imagine agentes de IA com os seus próprios endereços de carteira, tornando as suas ações auditáveis e revogáveis.
A computação de IA não estará em cadeia por um tempo, e precisamos de maneiras de permitir que a computação não determinística interfira com o mundo determinístico em cadeia. Felizmente, existem múltiplos métodos criptográficos para alcançar computação confidencial e verificável: ambientes de execução confiáveis, provas de conhecimento zero e computação multipartidária. Sistemas de reputação baseados em blockchain podem rastrear o comportamento de agentes de IA ao longo do tempo, criando mecanismos de responsabilidade muito necessários.
Esta abordagem resolve o problema fundamental de confiança da IA. Em vez de uma fusão forçada de tecnologias, obtemos uma solução mais elegante onde os agentes têm carteiras para identidade, permissões e pagamentos. O resultado poderia ser agentes sem confiança que se tornam parte da nossa vida quotidiana sem preocupações com fraude, invasão de privacidade ou questões de segurança.
A única área onde a integração de criptomoeda e IA demonstra uma promessa genuína é nas redes de computação descentralizada. Projetos que utilizam incentivos em tokens para coordenar recursos de GPU distribuídos abordam um verdadeiro gargalo no desenvolvimento de IA. O panorama atual da IA é dominado por um punhado de provedores de nuvem que controlam o acesso aos imensos recursos computacionais necessários para treinar e executar grandes modelos. Isso não se trata de colocar a IA na blockchain, mas sim de usar mecanismos de blockchain para coordenar e incentivar um novo tipo de camada de infraestrutura.
A comparação entre a IA e Prometeu é mais do que um pouco exagerada. A IA é uma realização verdadeiramente notável que vem com seu próprio potencial de crescer e iterar sobre si mesma. Algo que devemos estar entusiasmados.
O desafio não é ser como Prometeu, mas evitar ser como Zeus. A IA deve ser aplicada de forma liberal, mas com cautela. Uma má aplicação no crypto pode não nos deixar com o fígado sendo devorado por toda a eternidade, mas pode arriscar a única coisa que a indústria construiu ao longo dos anos: sistemas sem confiança. Isso afastaria construtores e usuários para sempre. Pelo menos, sistemas sem confiança ainda são algo que vale a pena proteger.