Die formale Überprüfung ist einer der theoretischeren Bereiche der Informatik.

Dieses Feld war historisch gesehen dunkel, aber die jüngsten Fortschritte in der KI können es vorne und in das Zentrum bringen.

In the realm of computer science, few areas are as theoretical and hold as high a threshold for practical application as formal verification. It essentially takes the tools of mathematical logic and applies them to verifying whether statements are correct.

Im Bereich der Informatik sind nur wenige Bereiche genauso theoretisch und haben einen so hohen Schwellenwert für die praktische Anwendung wie formale Überprüfung. Es dauert im Wesentlichen die Werkzeuge der mathematischen Logik und wendet sie zur Überprüfung an, ob Aussagen korrekt sind.

This field has remained largely in the academic sphere, but recent advances in AI may finally bring it front and center.

Dieses Gebiet ist weitgehend im akademischen Bereich geblieben, aber die jüngsten Fortschritte in der KI können es endlich vorne und in der Mitte bringen.

I spoke with Clark Barrett, a professor of computer science at Stanford, who tells of a software bug that once led to the explosion of a rocket. The software ran an instance that forced it to convert a floating-point number into an integer. This caused the program to crash and the rocket to explode. A formal verification of the code would have avoided that problem.

Ich sprach mit Clark Barrett, einem Professor für Informatik in Stanford, der von einem Softwarefehler erzählt, der einst zur Explosion einer Rakete führte. Die Software führte eine Instanz durch, die es zwang, eine Schwimmpunktzahl in eine Ganzzahl umzuwandeln. Dies führte dazu, dass das Programm zum Absturz und die Rakete explodiert. Eine formelle Überprüfung des Codes hätte dieses Problem vermieden.

Compiling is the weakest form of verification. A stronger form would be to run a battery of test cases. To see this more clearly, consider a function that divides two numbers. Without doing any internal checks, that function could run on any numerical inputs. If your test cases excluded 0, your function would still compile. But the edge case of 0 in the denominator would cause the program to crash. Only a formal verification would catch this because it’s not sufficient just to evaluate the functions on the different inputs, but rather to assess the function on its underlying logic.

Das Kompilieren ist die schwächste Form der Überprüfung. Eine stärkere Form wäre, eine Batterie von Testfällen durchzuführen. Um dies klarer zu sehen, betrachten Sie eine Funktion, die zwei Zahlen teilt. Ohne interne Überprüfungen könnte diese Funktion auf numerischen Eingaben ausgeführt werden. Wenn Ihre Testfälle 0 ausschließen würden, würde Ihre Funktion weiterhin kompilieren. Aber der Randfall von 0 im Nenner würde das Programm zum Absturz bringen. Nur eine formale Überprüfung würde dies erfassen, da es nicht ausreicht, nur um die Funktionen für die verschiedenen Eingaben zu bewerten, sondern die Funktion auf seiner zugrunde liegenden Logik zu bewerten.

The bar for formal verification is high, and the tools are obscure and hard to use. Outside of the Mars rover, they have not had wide acceptance. But the one possible exception today is cloud services. Cloud providers allow customers to enter their own query logic when using their services. An error in the query logic, such as inadvertently typing “or,” instead of “and” can have existential consequences, giving everyone access instead of no one. As such, companies like AWS are now recruiting computer scientists in formal verification by the hundreds.

Die Balken für die formale Überprüfung ist hoch und die Werkzeuge sind dunkel und schwer zu bedienen. Außerhalb des Mars Rover haben sie keine breite Akzeptanz gehabt. Aber die eine mögliche Ausnahme heute sind Cloud -Dienste. Mit Cloud -Anbietern können Kunden bei der Nutzung ihrer Dienste ihre eigene Abfragelogik eingeben. Ein Fehler in der Abfragelogik, z. B. versehentlich "oder" anstelle von „und“ eingeben, kann existenzielle Konsequenzen haben, wodurch jeder Zugriff statt niemandem zugänglich ist. Daher rekrutieren Unternehmen wie AWS jetzt Informatiker bei der formellen Überprüfung durch die Hunderte.

The big use case will be formally verifying code written by AI. As AI tools improve, more code will be written by AI, and we need fast and cheap ways to verify this code beyond simply compiling it. That’s where formal verification could have its Super Bowl moment. There is now a big research effort underway to deploy these formal verification tools at scale to AI-generated code.

Der große Anwendungsfall wird offiziell von AI geschriebener Code überprüfen. Wenn sich KI -Tools verbessern, wird mehr Code von AI geschrieben, und wir benötigen schnelle und billige Möglichkeiten, diesen Code zu überprüfen, um ihn einfach zu kompilieren. Hier könnte eine formelle Überprüfung seinen Super Bowl -Moment haben. Inzwischen ist ein großer Forschungsaufwand im Gange, um diese formalen Überprüfungswerkzeuge in Skala für AI-generierte Code einzusetzen.

This could have an enormous impact, making software bugs a thing of the past. Not only would software be written faster with AI, but it would be better too.

Dies könnte einen enormen Einfluss haben und Software -Fehler der Vergangenheit angehören. Software würde nicht nur schneller mit KI geschrieben, sondern es wäre auch besser.

What about Bitcoin?

Was ist mit Bitcoin?

Once these formal verification tools arrive, I’m eager to see how Bitcoin would fare. But the early answer here is that Bitcoin should fare well because it uses several strict forms of logic that give it its high security. For example, full nodes of the network check signatures (through SigOps) when verifying transactions. If the signature fails, the transaction will never enter the mempool, nor be included in a block. Similarly, miners win a block only if their hash of the block header lies below the difficulty target. And a transaction is valid only if the inputs exceeds its outputs.

Sobald diese formellen Überprüfungswerkzeuge eintreffen, bin ich gespannt darauf, wie Bitcoin es abschneiden würde. Aber die frühe Antwort hier ist, dass Bitcoin gut abschneiden sollte, da es mehrere strenge Logikformen verwendet, die ihm seine hohe Sicherheit verleihen. Beispielsweise prüfen vollständige Knoten der Netzwerksignaturen (über Sigops) bei Überprüfung der Transaktionen. Wenn die Signatur fehlschlägt, wird die Transaktion niemals das Mempool eingeben oder in einen Block aufgenommen. In ähnlicher Weise gewinnen Bergleute einen Block nur, wenn ihr Hash des Blockheaders unter dem Schwierigkeitsziel liegt. Und eine Transaktion ist nur gültig, wenn die Eingänge ihre Ausgänge überschreiten.

In other words, the logic in Bitcoin is fully deterministic. There is no uncertainty about the rules of the protocol. And because of this, there is little room for software bugs, evidenced by the lack of hacks over the last 15 years.

Mit anderen Worten, die Logik in Bitcoin ist vollständig deterministisch. Es gibt keine Unsicherheit über die Regeln des Protokolls. Und aus diesem Grund gibt es wenig Platz für Softwarefehler, was sich durch das Fehlen von Hacks in den letzten 15 Jahren zeigt.

That said, Bitcoin is still an example of social computing. You could say that it is technically vulnerable to collusion if, for example, every single miner in the world agreed to fork the chain. That could happen in theory. But that's where economics comes in: It would not be in the miner's interest to do so.

Das heißt, Bitcoin ist immer noch ein Beispiel für soziales Computing. Man könnte sagen, dass es technisch für Absprachen anfällig ist, wenn beispielsweise jeder einzelne Bergmann der Welt, die Kette zu streichen. Das könnte theoretisch passieren. Aber hier kommt die Wirtschaft ins Spiel: Es wäre nicht im Interesse des Bergmanns, dies zu tun.