しかもそれは最近始まったことではないとのこと。
先週Amazonの秋のハードウェアイベントで、生成AIの力を使用してAlexaの能力をアップグレードする予定があることが明らかになりました。
Amazonは今年の初め、Alexaの回答をより知的でリアルなものにするために大規模言語モデルであるAlexaLLMを導入しています。
そしてAlexaを能力アップするために、ユーザーとAlexaの会話をAIのトレーニング用に大量に使用することになると報じられています。
NBCは、AmazonがユーザーとAlexaの会話を開発に使用していることを認めたと報じました。現在、存在するすべてのテック企業が同じことをしているため、まぁありうるだろうなと驚きではないのですが…。
しかしこのテクノロジーの時代においては、私たちユーザーのデータは企業にとって非常に重要なものであると同時に、私たちのプライバシーはあまり考慮されていないことを改めて感じてしまいます。
Amazon広報の返答は？
米GizmodoがNBCの報道についてAmazonの広報担当者に質問したところ、NBCの記事に異議を唱え、ユーザーの音声録音を企業のアルゴリズムをトレーニングするために使用する方針は新しいことではないとの返答がありました。
また、Alexaは複数の大規模言語モデルによって動作していて、言語モデルはユーザーの実際の会話から訓練を受けて能力を高めることもあると説明。
私たちは常に、実世界のリクエストを使用してAlexaを訓練することが、この体験を提供するために不可欠であると信じています。
とのことですが、ユーザーの音声録音の｢極めて小さな一部しか｣この方法で使用されていないけれど、具体的な数値は提供できないと広報担当者はコメントしています。
また、ユーザーも｢Alexaをコントロールするための一連の強力なツールと、プライバシーコントロールにアクセスできる｣としています。
Alexaのプライバシー問題
Alexaのプライバシーの問題はこれまでも浮上してきていますが、Amazonはどこ吹く風の様子。
音声アシスタントはユーザーデータ取り放題の装置のようなもので、ユーザーは自分がしゃべったそのデータがどこに行くか、またはどう使われるのかに対して限られたコントロールしか持っていないのが現状。
2019年には、世界中の数千人のAmazonの従業員が、音声アシスタントとの対話を聞いて書き起こしていることが明らかになり批判を受けました。
この一件により、ユーザーが自分たちの音声コマンドに、データを書き起こす人のアクセスできないようにする機能が開発されることに。
この機能で、ユーザーは自分のコマンドがAmazonのAIアルゴリズムの訓練に使用されないようにも設定できるようになりました。
Amazonに勝手に自分が話した内容をAIのトレーニングに使われたくない場合は、しっかり設定を見直すようにしてください。テクノロジーは便利な反面、データを人質のように引き渡さなくてはいけない場合もあるので、一長一短といったところでしょうか…。
