正式な検証は、コンピューターサイエンスの理論的領域の1つです。

この分野は歴史的にあいまいでしたが、AIの最近の進歩はそれを前面と中心にするかもしれません。

In the realm of computer science, few areas are as theoretical and hold as high a threshold for practical application as formal verification. It essentially takes the tools of mathematical logic and applies them to verifying whether statements are correct.

コンピューターサイエンスの領域では、理論的であり、正式な検証と同じように実用的なアプリケーションのしきい値として高い領域はほとんどありません。基本的に数学ロジックのツールを使用し、ステートメントが正しいかどうかを検証することに適用します。

This field has remained largely in the academic sphere, but recent advances in AI may finally bring it front and center.

この分野は主に学術分野にとどまっていますが、AIの最近の進歩は最終的に前面と中心になる可能性があります。

I spoke with Clark Barrett, a professor of computer science at Stanford, who tells of a software bug that once led to the explosion of a rocket. The software ran an instance that forced it to convert a floating-point number into an integer. This caused the program to crash and the rocket to explode. A formal verification of the code would have avoided that problem.

スタンフォードのコンピューターサイエンスの教授であるクラーク・バレットと話をしました。ソフトウェアは、浮動小数点数を整数に変換することを強制するインスタンスを実行しました。これにより、プログラムがクラッシュし、ロケットが爆発しました。コードの正式な検証は、その問題を避けていたでしょう。

Compiling is the weakest form of verification. A stronger form would be to run a battery of test cases. To see this more clearly, consider a function that divides two numbers. Without doing any internal checks, that function could run on any numerical inputs. If your test cases excluded 0, your function would still compile. But the edge case of 0 in the denominator would cause the program to crash. Only a formal verification would catch this because it’s not sufficient just to evaluate the functions on the different inputs, but rather to assess the function on its underlying logic.

コンパイルは、最も弱い形式の検証です。より強いフォームは、一連のテストケースを実行することです。これをより明確に見るには、2つの数値を分割する関数を検討してください。内部チェックを行わないと、その機能は任意の数値入力で実行できます。テストケースが0を除外した場合、機能は引き続きコンパイルされます。しかし、分母の0のエッジケースにより、プログラムがクラッシュします。異なる入力の関数を評価するだけでなく、その基礎となるロジックの関数を評価するのに十分ではないため、正式な検証のみがこれをキャッチします。

The bar for formal verification is high, and the tools are obscure and hard to use. Outside of the Mars rover, they have not had wide acceptance. But the one possible exception today is cloud services. Cloud providers allow customers to enter their own query logic when using their services. An error in the query logic, such as inadvertently typing “or,” instead of “and” can have existential consequences, giving everyone access instead of no one. As such, companies like AWS are now recruiting computer scientists in formal verification by the hundreds.

正式な検証のためのバーは高く、ツールはあいまいで使用が困難です。火星のローバーの外では、彼らはそれほど受け入れられていません。しかし、今日の可能な例外はクラウドサービスです。クラウドプロバイダーにより、顧客はサービスを使用するときに独自のクエリロジックを入力できます。 「and」の代わりに「または」を誤って入力するなど、クエリロジックのエラーは、存在的な結果をもたらすことができ、誰もではなくすべてのアクセスを与えることができます。そのため、AWSのような企業は現在、数百人による正式な検証でコンピューター科学者を募集しています。

The big use case will be formally verifying code written by AI. As AI tools improve, more code will be written by AI, and we need fast and cheap ways to verify this code beyond simply compiling it. That’s where formal verification could have its Super Bowl moment. There is now a big research effort underway to deploy these formal verification tools at scale to AI-generated code.

大規模なユースケースは、AIによって書かれたコードを正式に検証します。 AIツールが改善されると、AIによってより多くのコードが記述され、単にコンパイルするだけでなくこのコードを検証するための高速かつ安価な方法が必要です。それは、正式な検証がスーパーボウルの瞬間を持つことができる場所です。現在、これらの正式な検証ツールを大規模にAIに生成されたコードに展開するための大きな研究努力が進行中です。

This could have an enormous impact, making software bugs a thing of the past. Not only would software be written faster with AI, but it would be better too.

これは大きな影響を与える可能性があり、ソフトウェアのバグは過去のものになります。ソフトウェアはAIでより速く記述されるだけでなく、より良いものになります。

What about Bitcoin?

ビットコインはどうですか？

Once these formal verification tools arrive, I’m eager to see how Bitcoin would fare. But the early answer here is that Bitcoin should fare well because it uses several strict forms of logic that give it its high security. For example, full nodes of the network check signatures (through SigOps) when verifying transactions. If the signature fails, the transaction will never enter the mempool, nor be included in a block. Similarly, miners win a block only if their hash of the block header lies below the difficulty target. And a transaction is valid only if the inputs exceeds its outputs.

これらの正式な検証ツールが到着したら、ビットコインがどのように機能するかを見たいと思っています。しかし、ここでの初期の答えは、ビットコインが高度なセキュリティを与えるいくつかの厳格な形式のロジックを使用しているため、うまくいくべきだということです。たとえば、トランザクションを検証するときに、ネットワークの完全なノード（SIGOPSを介して）を確認します。署名が失敗した場合、トランザクションはメンバーに入ることも、ブロックにも含まれません。同様に、鉱夫はブロックヘッダーのハッシュが難易度のターゲットの下にある場合にのみブロックを獲得します。また、トランザクションは、入力が出力を超える場合にのみ有効です。

In other words, the logic in Bitcoin is fully deterministic. There is no uncertainty about the rules of the protocol. And because of this, there is little room for software bugs, evidenced by the lack of hacks over the last 15 years.

言い換えれば、ビットコインのロジックは完全に決定論的です。プロトコルのルールについては不確実性はありません。このため、過去15年間のハッキングの欠如によって証明されたソフトウェアのバグの余地はほとんどありません。

That said, Bitcoin is still an example of social computing. You could say that it is technically vulnerable to collusion if, for example, every single miner in the world agreed to fork the chain. That could happen in theory. But that's where economics comes in: It would not be in the miner's interest to do so.

とはいえ、ビットコインはまだソーシャルコンピューティングの例です。たとえば、世界のすべての鉱山労働者がチェーンを分岐することに同意した場合、それはコリュージョンに対して技術的に脆弱であると言えます。それは理論的に起こる可能性があります。しかし、それは経済学が出てくる場所です。そうすることは鉱夫の利益にはなりません。