サル・カーン｢AIを活用するためにはもっと懐疑的であるべき｣

全幅の信頼は禁物。

無料のオンライン教育プラットフォーム、カーンアカデミーの創設者として知られるサル・カーン氏。

カーン氏は教育にAIを活用すべき派である一方で、過信するのはよくないといいます。

自社製品にとりあえずAIを組み込んどけ！ という昨今の急激な流れを横目に、カーン氏がAIそのものに対する期待や懸念を米Gizmodoの取材で語ってくれました。

いわく、人がAIを乱用するのを止める手段もAIなのかもしれないと。

OpenAIが新たな大規模言語モデルのリリースと一緒にアピールした大規模プロジェクトのひとつには、カーンアカデミーが新たに取り組むKhanmigo AI学習プラットフォームがあります。

カーン氏いわく、学習＆チュートリアルのオールインワンプラットフォームを作ろうとする氏のチームにとって、Khanmigoはまずその最初の1歩（現在、Khanmigo AIは一部のユーザーにしか公開されていませんが、ウェイトリスト登録は広く公開されています）。

それはChatGPTリリース半年前のこと

OpenAIのCEOであるSam Altman氏と代表取締役Greg Brockman氏からカーン氏に連絡があったのは、半年ほど前のこと。まだChatGPTがリリースされる前でした。

AIに一般的な試験を合格させたいから｢社会にとって有益に使用されるため｣にパートナーとなる企業を探しているという話だったそう。

最初は懐疑的だったというカーン氏も、OpenAIの最新言語モデルを見てその能力に驚いたといいます。

そこから、AIが民主的ないち教師、または教師のアシスタントとして活動するにはどうすべきかを考えはじめたのだといいます。

MetaやMicrosoft（マイクロソフト）、Google（グーグル）などの大手テック企業が、AIを過信しちゃダメとユーザーに言いつつも、実際エンドユーザーに提供する自社システムにはAIを突っ込みまくっている中、カーン氏のチームはAIに対してより深く検討したいと考えました。

急がば回れの精神

つまり、これを使う人が何を得て、どういう弊害の可能性があるのかをきちんと理解したいと考えたわけです。

テスラが自動運転車をリリースしたとき、時速80マイルで壁に突っ込むかもしれないものをテストするという権利に人はお金を払ったんです。

とテスラを例にだすカーン氏。AIにおいては、カーン氏は急がば回れという立ち位置にいるということでしょう。

Khanmigoでは、生徒用と先生用で2つのアクティビティに分かれています。

たとえば、生徒が数学プログラムに｢3x＋7（X-4）=5｣という問題について質問するとします。

AIは生徒に対して、左の式を単純化してみようなど、まず問題をステップごとにわけて考えるよう促します。

ほかの教科、たとえば歴史なら、生徒の好奇心を刺激するようなアクティビティが盛り込まれています。

心理学のAPテスト模試なら｢現代心理学の父といえば？｣という問いに対し、多くの人がジークムント・フロイトかなと思っちゃう中、システムはヴィルヘルム・ヴントだと回答できます。

一体化したAIベースのシステムが理想

が、質問してヒントを出す・答えるというシステムだけではなく、最終的にカーン氏が想像しているのは、教える側と学ぶ側のツールが一体化しているAIベースのシステムです。

先生が授業で、生徒にAIをアシスタントとして作文を書くのを認められる状況。

もし、生徒が勝手に許可されていないAIシステムを使って作文を丸投げで書かせたら、ログからそれを確認できるというのもここに含まれます。

AI利用を許可することで、AIの不正利用＝AIカンニング対策もできるかもしれないということなんですね。

また、カーン氏チームのシステムでは、科学＆数学の問題においては確認のためにひとつ段階が加えられており、もしAIが答えを間違ったり、問題を誤って解釈したりすると、ユーザーは低評価（下向き親指）を出すことができます。

システムが答えを間違うのは稀だそうですが、OpenAIいわくゼロでもないそうなので。

AIで最も困難なことのひとつは、AIモデルを改良し続けることだというカーン氏。また、急加熱する人のAIへの信頼度にも変化が必要だといいます。

AIに対してもっと懐疑的になること、AIを信頼できるソースだと過信しないように説いていく必要があると、カーン氏は語っています。