Le déficit croissant de la confiance de l'IA et comment ZK-Snarks peut le résoudre

L'IA est un récit dominant depuis 2024, mais les utilisateurs et les entreprises ne peuvent toujours pas y faire complètement confiance. Qu'il s'agisse de finances, de données personnelles ou de décisions de soins de santé

As the year 2024 came to a close, the narrative surrounding artificial intelligence (AI) reached a fever pitch. Both users and companies alike expressed a lack of complete trust in the technology.

Alors que l'année 2024 touchait à sa fin, le récit entourant l'intelligence artificielle (IA) a atteint un terrain de fièvre. Les utilisateurs et les entreprises ont exprimé un manque de confiance totale dans la technologie.

Despite the significant investments made by startups and multinational companies in expanding AI to domains such as finances, health, and various other aspects of daily life, a substantial deficit in trust in AI persists. This deficit poses one of the most pressing barriers to widespread adoption.

Malgré les investissements importants réalisés par les startups et les sociétés multinationales dans l'élargissement de l'IA à des domaines tels que les finances, la santé et divers autres aspects de la vie quotidienne, un déficit substantiel de confiance dans l'IA persiste. Ce déficit pose l'un des obstacles les plus urgents à une adoption généralisée.

Enter decentralized and privacy-preserving technologies, which are being rapidly recognized as promising solutions for providing verifiability, transparency, and enhanced data protection without hindering AI's growth.

Entrez les technologies décentralisées et préservantes de confidentialité, qui sont rapidement reconnus comme des solutions prometteuses pour fournir une vérifiabilité, une transparence et une protection accrue des données sans entraver la croissance de l'IA.

The pervasive AI trust deficit

Le déficit de confiance de l'IA omniprésente

AI emerged as the second most popular category among cryptocurrency investors in early 2024, capturing over 16% of investor interest.

L'IA est devenue la deuxième catégorie la plus populaire parmi les investisseurs de crypto-monnaie au début de 2024, capturant plus de 16% des intérêts des investisseurs.

Startups and multinational companies poured considerable resources into expanding the technology to domains such as finances, health, and every other aspect of life.

Les startups et les sociétés multinationales ont consacré des ressources considérables à l'élargissement de la technologie à des domaines tels que les finances, la santé et tous les autres aspects de la vie.

For instance, the emerging DeFi x AI (DeFAI) sector witnessed the launch of more than 7,000 projects, which collectively reached a peak market capitalization of $7 billion early in the year before the market downturn. DeFAI showcased the transformative potential of AI to enhance decentralized finance (DeFi) with natural language commands, enabling users to perform complex multi-step operations and conduct sophisticated market research.

Par exemple, le secteur émergent Defi x Ai (DeFai) a été témoin du lancement de plus de 7 000 projets, qui a collectivement atteint une capitalisation boursière de pointe de 7 milliards de dollars au début de l'année précédant le ralentissement du marché. Defai a présenté le potentiel transformateur de l'IA pour améliorer la finance décentralisée (DEFI) avec des commandes en langage naturel, permettant aux utilisateurs d'effectuer des opérations complexes en plusieurs étapes et de mener des études de marché sophistiquées.

However, innovation alone failed to address AI's core vulnerabilities: hallucinations, manipulation, and privacy concerns.

Cependant, l'innovation à elle seule n'a pas réussi à répondre aux vulnérabilités de base de l'IA: les hallucinations, la manipulation et les problèmes de confidentialité.

In November, a user managed to deceive an AI agent on Base into sending $47,000 despite being programmed never to do so. While this scenario was part of a game, it raised real concerns about whether AI agents can be trusted with autonomy over financial operations.

En novembre, un utilisateur a réussi à tromper un agent d'IA sur la base pour envoyer 47 000 $ malgré sa programmation pour ne jamais le faire. Bien que ce scénario fasse partie d'un jeu, il a soulevé de réelles préoccupations quant à savoir si les agents de l'IA peuvent faire confiance à l'autonomie sur les opérations financières.

Audits, bug bounties, and red teams helped to mitigate the risk of prompt injection, logic flaws, or unauthorized data use. However, according to KPMG in 2023, 61% of people still expressed hesitation to trust AI, and even industry professionals shared that concern.

Les audits, les primes de bogues et les équipes rouges ont contribué à atténuer le risque d'injection rapide, de défauts logiques ou d'utilisation des données non autorisées. Cependant, selon KPMG en 2023, 61% des personnes ont toujours exprimé une hésitation à faire confiance à l'IA, et même les professionnels de l'industrie ont partagé cette préoccupation.

A Forrester survey cited in Harvard Business Review found that 25% of analysts named trust as AI's biggest obstacle.

Une enquête Forrester citée dans Harvard Business Review a révélé que 25% des analystes ont nommé Trust comme le plus grand obstacle de l'IA.

That skepticism remains strong. A poll conducted at The Wall Street Journal's CIO Network Summit found that 61% of America's top IT leaders are still experimenting with AI agents. The rest were still experimenting or avoiding them altogether, citing lack of reliability, cybersecurity risks, and data privacy as their main concerns.

Ce scepticisme reste fort. Un sondage mené au sommet du réseau CIO du Wall Street Journal a révélé que 61% des principaux dirigeants informatiques américains expérimentent toujours les agents de l'IA. Les autres expérimentaient ou les évitaient complètement, invoquant le manque de fiabilité, les risques de cybersécurité et la confidentialité des données comme principales préoccupations.

Industries like healthcare are particularly sensitive to these risks. Sharing electronic health records (EHR) with LLMs to improve health outcomes holds great promise but also carries legal and ethical risks without airtight privacy protections.

Les industries comme les soins de santé sont particulièrement sensibles à ces risques. Le partage des dossiers de santé électroniques (DSE) avec les LLM pour améliorer les résultats pour la santé est très prometteur, mais comporte également des risques juridiques et éthiques sans protection de la vie privée étanche.

For example, the healthcare industry is suffering adversely from data privacy breaches. This problem compounds when hospitals share EHR data to train AI algorithms without protecting patient privacy.

Par exemple, l'industrie des soins de santé souffre négativement de violations de confidentialité des données. Ce problème se composent lorsque les hôpitaux partagent les données du DSE pour former des algorithmes d'IA sans protéger la vie privée des patients.

Centralized platforms also face challenges in reconciling user privacy with dataoperability. In a recent report by the Center for Data Innovation, researchers highlighted the need for a decentralized approach to dataoperability.

Les plates-formes centralisées sont également confrontées à des défis dans la réconciliation de la confidentialité des utilisateurs avec l'opération de données. Dans un récent rapport du Center for Data Innovation, les chercheurs ont mis en évidence la nécessité d'une approche décentralisée de l'opération de données.

Decentralized, privacy-preserving infrastructure

Infrastructure décentralisée et préservée de confidentialité

"All the world is made of faith, and trust, and pixie dust," wrote J.M. Barrie in Peter Pan. Trust isn't just a nice to have in AI — it's foundational.

"Tout le monde est fait de la foi, de la confiance et de la poussière de lutin", a écrit JM Barrie dans Peter Pan. La confiance n'est pas seulement agréable à avoir dans l'IA - c'est fondamental.

Economists at Moody's Analytic estimate that AI could add $15.7 trillion to the global economy by 2030. But that projected boon may never materialize without it.

Les économistes de Moody's Analytic estiment que l'IA pourrait ajouter 15,7 billions de dollars à l'économie mondiale d'ici 2030. Mais cette aubaine projetée pourrait ne jamais se matérialiser sans elle.

Enter decentralized cryptographic systems like zero-knowledge succinct non-interactive arguments of knowledge (ZK-SNARKs). These technologies offer a new path: allowing users to verify AI decisions without revealing personal data or the model's inner workings.

Entrez des systèmes cryptographiques décentralisés comme des arguments non interactifs succincts succincts zéro (ZK-Snarks). Ces technologies offrent un nouveau chemin: permettant aux utilisateurs de vérifier les décisions d'IA sans révéler des données personnelles ou le fonctionnement interne du modèle.

This opens the door to a new generation of trustworthy and transparent AI systems.

Cela ouvre la porte à une nouvelle génération de systèmes d'IA dignes de confiance et transparents.

By applying privacy-preserving cryptography to machine learning infrastructure, AI can be auditable, trustworthy, and privacy-respecting, especially in sectors like finance and healthcare.

En appliquant une cryptographie préservant la confidentialité à l'infrastructure d'apprentissage automatique, l'IA peut être véritable, digne de confiance et respectueuse de la vie privée, en particulier dans des secteurs comme la finance et les soins de santé.

Recent: Blockchain's next big breakthroughs: What to watch

Récemment: les prochaines grandes percées de la blockchain: que regarder

ZK-SNARKs rely on advanced cryptographic proof systems that let one party prove something is true without revealing how. For AI, this enables models to be verified for correctness without disclosing their training data, input values, or proprietary logic.

ZK-Snarks s'appuie sur des systèmes de preuve cryptographique avancés qui permettent à une partie de prouver que quelque chose est vrai sans révéler comment. Pour l'IA, cela permet de vérifier les modèles pour l'exactitude sans divulguer leurs données de formation, leurs valeurs d'entrée ou leur logique propriétaire.

Imagine a decentralized AI lending agent. Instead of reviewing full financial records, it checks encrypted credit score proofs to make autonomous loan decisions without accessing sensitive data. This protects both user privacy and institutional risk.

Imaginez un agent de prêt d'IA décentralisé. Au lieu de revoir les dossiers financiers complets, il vérifie les preuves cryptées des cotes de crédit pour prendre des décisions de prêt autonomes sans accéder à des données sensibles. Cela protège à la fois la confidentialité des utilisateurs et le risque institutionnel.

ZK technology also addresses the black-box nature of LLMs. By using dynamic proofs, it's possible to verify AI outputs while shielding both data integrity and model architecture.

La technologie ZK aborde également la nature noire des LLMS. En utilisant des preuves dynamiques, il est possible de vérifier les sorties AI tout en protégeant à la fois l'intégrité des données et l'architecture du modèle.

That's a win for users and companies — one no longer fears data misuse, while the other safeguards its IP.

C'est une victoire pour les utilisateurs et les entreprises - l'une ne craint plus l'abus de données, tandis que l'autre sauvegarde son IP.

Toward decentralized AI

Vers une IA décentralisée

As we enter this new phase of AI, better models alone aren't enough.

Alors que nous entrons dans cette nouvelle phase de l'IA, de meilleurs modèles ne suffisent pas à eux seuls.

Users demand transparency; enterprises need resilience; regulators expect accountability.

Les utilisateurs demandent la transparence; Les entreprises ont besoin de résilience; Les régulateurs s'attendent à une responsabilité.

Decentralized, verifiable cryptography delivers all three.

La cryptographie décentralisée et vérifiable offre les trois.

Technologies like Z

Technologies comme z