La vérification formelle est l'un des domaines les plus théoriques de l'informatique.

Ce domaine a historiquement été obscur, mais les avancées récentes dans l'IA peuvent le mettre au centre et au centre.

In the realm of computer science, few areas are as theoretical and hold as high a threshold for practical application as formal verification. It essentially takes the tools of mathematical logic and applies them to verifying whether statements are correct.

Dans le domaine de l'informatique, peu de domaines sont aussi théoriques et contiennent un seuil aussi élevé pour une application pratique que la vérification formelle. Il prend essentiellement les outils de la logique mathématique et les applique pour vérifier si les déclarations sont correctes.

This field has remained largely in the academic sphere, but recent advances in AI may finally bring it front and center.

Ce domaine est resté en grande partie dans la sphère académique, mais les avancées récentes dans l'IA pourraient enfin la faire devant et au centre.

I spoke with Clark Barrett, a professor of computer science at Stanford, who tells of a software bug that once led to the explosion of a rocket. The software ran an instance that forced it to convert a floating-point number into an integer. This caused the program to crash and the rocket to explode. A formal verification of the code would have avoided that problem.

J'ai parlé avec Clark Barrett, professeur d'informatique à Stanford, qui raconte un bogue logiciel qui a déjà conduit à l'explosion d'une fusée. Le logiciel a exécuté une instance qui l'a forcé à convertir un numéro de point flottant en un entier. Cela a provoqué l'écrasement du programme et la fusée exploser. Une vérification formelle du code aurait évité ce problème.

Compiling is the weakest form of verification. A stronger form would be to run a battery of test cases. To see this more clearly, consider a function that divides two numbers. Without doing any internal checks, that function could run on any numerical inputs. If your test cases excluded 0, your function would still compile. But the edge case of 0 in the denominator would cause the program to crash. Only a formal verification would catch this because it’s not sufficient just to evaluate the functions on the different inputs, but rather to assess the function on its underlying logic.

La compilation est la forme de vérification la plus faible. Une forme plus forte consisterait à exécuter une batterie de cas de test. Pour voir cela plus clairement, considérez une fonction qui divise deux nombres. Sans faire de vérifications internes, cette fonction pourrait fonctionner sur des entrées numériques. Si vos cas de test excluaient 0, votre fonction se compilerait toujours. Mais le cas de bord de 0 dans le dénominateur entraînerait une écrasement du programme. Seule une vérification formelle le capterait car il n'est pas suffisant pour évaluer les fonctions sur les différentes entrées, mais plutôt pour évaluer la fonction sur sa logique sous-jacente.

The bar for formal verification is high, and the tools are obscure and hard to use. Outside of the Mars rover, they have not had wide acceptance. But the one possible exception today is cloud services. Cloud providers allow customers to enter their own query logic when using their services. An error in the query logic, such as inadvertently typing “or,” instead of “and” can have existential consequences, giving everyone access instead of no one. As such, companies like AWS are now recruiting computer scientists in formal verification by the hundreds.

La barre pour la vérification formelle est élevée et les outils sont obscurs et difficiles à utiliser. En dehors du Rover de Mars, ils n'ont pas été largement acceptés. Mais la seule exception possible aujourd'hui est les services cloud. Les fournisseurs de cloud permettent aux clients de saisir leur propre logique de requête lors de l'utilisation de leurs services. Une erreur dans la logique de requête, telle que la typage par inadvertance «ou», au lieu de «et» peut avoir des conséquences existentielles, donnant à tout le monde l'accès au lieu de personne. En tant que telles, des entreprises comme AWS recrutent désormais des informaticiens en vérification formelle par des centaines.

The big use case will be formally verifying code written by AI. As AI tools improve, more code will be written by AI, and we need fast and cheap ways to verify this code beyond simply compiling it. That’s where formal verification could have its Super Bowl moment. There is now a big research effort underway to deploy these formal verification tools at scale to AI-generated code.

Le grand cas d'utilisation sera officiellement vérifié le code écrit par AI. À mesure que les outils d'IA s'améliorent, plus de code seront écrits par l'IA, et nous avons besoin de moyens rapides et bon marché pour vérifier ce code au-delà de la simple compilation. C'est là que la vérification formelle pourrait avoir son moment du Super Bowl. Il y a maintenant un grand effort de recherche en cours pour déployer ces outils de vérification formels à grande échelle en code généré par l'AI.

This could have an enormous impact, making software bugs a thing of the past. Not only would software be written faster with AI, but it would be better too.

Cela pourrait avoir un impact énorme, faisant des bogues logiciels une chose du passé. Non seulement les logiciels seraient écrits plus rapidement avec l'IA, mais ce serait mieux aussi.

What about Bitcoin?

Et Bitcoin?

Once these formal verification tools arrive, I’m eager to see how Bitcoin would fare. But the early answer here is that Bitcoin should fare well because it uses several strict forms of logic that give it its high security. For example, full nodes of the network check signatures (through SigOps) when verifying transactions. If the signature fails, the transaction will never enter the mempool, nor be included in a block. Similarly, miners win a block only if their hash of the block header lies below the difficulty target. And a transaction is valid only if the inputs exceeds its outputs.

Une fois ces outils de vérification formels, je suis impatient de voir comment Bitcoin s'en sortirait. Mais la réponse précoce ici est que le bitcoin devrait bien s'appuyer car il utilise plusieurs formes de logique strictes qui lui donnent sa haute sécurité. Par exemple, les nœuds complets des signatures de vérification du réseau (via SIGOPS) lors de la vérification des transactions. Si la signature échoue, la transaction n'entrera jamais dans le mempool, ni ne sera incluse dans un bloc. De même, les mineurs ne gagnent un bloc que si leur hachage de l'en-tête de bloc est en dessous de la cible de difficulté. Et une transaction n'est valide que si les entrées dépassent ses sorties.

In other words, the logic in Bitcoin is fully deterministic. There is no uncertainty about the rules of the protocol. And because of this, there is little room for software bugs, evidenced by the lack of hacks over the last 15 years.

En d'autres termes, la logique de Bitcoin est pleinement déterministe. Il n'y a aucune incertitude sur les règles du protocole. Et à cause de cela, il y a peu de place pour les bogues logiciels, comme en témoigne le manque de hacks au cours des 15 dernières années.

That said, Bitcoin is still an example of social computing. You could say that it is technically vulnerable to collusion if, for example, every single miner in the world agreed to fork the chain. That could happen in theory. But that's where economics comes in: It would not be in the miner's interest to do so.

Cela dit, Bitcoin est toujours un exemple de l'informatique sociale. Vous pourriez dire qu'il est techniquement vulnérable à la collusion si, par exemple, chaque mineur dans le monde acceptait de déborder la chaîne. Cela pourrait arriver en théorie. Mais c'est là que l'économie entre en jeu: ce ne serait pas dans l'intérêt du mineur de le faire.