kanna qed

AI's answers are moving from "explanation" to "inspection." LLMs generate fluent text. But they cannot guarantee that what they produce is correct. "Plausible errors" — hallucinations — are a well-known characteristic of LLMs. In response to this problem, a segment of leading AI companies and research organizations has begun moving in a clear direction. Transforming AI-generated answers into propositions, proofs, and specifications that can be formally machine-checked. The foundation...

AIの答えは今、「説明」から「検査」へ向かいつつあります。 LLMは流暢な文章を生成します。しかし、それが正しいかどうかを保証することはできません。「もっともらしい誤り」——hallucination——は、LLM固有の問題として知られています。 先端的なAI企業・研究組織の一部が、明確に向かい始めている方向があります。 AIが生成した答えを、形式的に機械検査できる命題・証明・仕様に変えること。 その基盤として注目されているのが、定理証明支援システム Lean 4 です。 本稿では、一次資料・研究論文・一部報道をもとに、Lean 4を検証基盤に使い始めているAI企業・研究組織の事例を整理し、Lean 4が何を担い、何を担えないのかを示した上で、責任OSが担う次の層を示します。 ▼責任OSに関するプレスリリースはこちら https://prtimes.jp/main/html/rd/p/000000004.000182721.html 1. AIの出力を機械検査へ接続する潮流の中で、Lean 4を採用する事例が増えている Lean 4とは何か Leanは、Leonardo de...

“Verifiable AI” has no single agreed-upon definition. Responsible AI, Explainable AI, Safe AI — these terms are sometimes used alongside it, but what “verifiable AI” actually means shifts depending on context. Looking at international primary sources, “Verifiable AI” is not yet a fixed standard term. In practice, the conversation is distributed across Verified AI, AI verification, TEVV, AI assurance, conformity assessment, provenance, traceability, record-keeping, and cryptographic...