生成AIをビジネスの味方に。安全な生成AIを選ぶ・使うための目利き術
INDEX
生成AIをビジネスで安全に使うためにはどうすればよいのか。オンラインでの販促支援DXツール「CraftChat」やChatGPTをビジネスで安全に使えるコラボレーションツール「Crew」を提供する株式会社クラフターの代表取締役 小島 舞子氏にお話を伺いました。生成AIサービスの仕組みについて、小島氏は「ユーザーからはどのサービスがどのように動いているのかはブラックボックスとして映ると思う」と語ります。ユーザーが安全な生成AIを選ぶ・使うための目利き術や、生成AIを提供する企業や社会に求められる対応について迫ります。
属人的なノウハウを組織全体で平均化。生成AIによって生まれているメリット
ー生成AIを導入する企業・自治体ではどのようなメリットが生まれているのでしょうか？
弊社が提供するCrewは多くの自治体や金融機関が導入しています。導入していただいた最大のメリットとして、以前は特定の職員や銀行員だけが持っていたノウハウを生成AIが読み取り、組織全体で平均化されたノウハウとして提供することができるようになった点が挙げられます。
例えば、ある会計事務に関する30ページのマニュアルを、従来は時間をかけて一つひとつ手作業で検索・確認しなければなりませんでした。今はCrewにマニュアルの情報が組み込まれているので、Crewに質問をすると情報を参照し、迅速に回答を得られるようになっています。これにより、職員はこれまでのマニュアル検索にかかる時間を大幅に削減できるようになりました。
その結果、検索に使っていた時間を、人間特有のクリエイティブな業務や、生成AIでは難しい窓口の業務や対面サポートなど、より人間らしい温かいサポートやおもてなしを提供するために使えるようになったんです。
ガイドラインの制定やヒューマンエラーへの対策。安全な生成AIサービスの仕組み
ー自治体や金融機関が生成AIを導入するのは、セキュリティ面からも慎重な部分があると思います。どのように導入を進めていったのでしょう？
導入までのプロセスは他の企業よりも長いと思います。自治体や金融機関では、個人情報や資産状況といったセンシティブデータを取り扱う部署が多いためです。弊社のグループ会社であるマネックス証券がCrewを導入した際は、外部の委託先に行うようなセキュリティレビューを通すプロセスを経て承認され、導入に至りました。こうしたプロセスを自治体や金融機関に展開し、きちんと安全性が保証できるサービスとして提供しています。
また、前提として、Crewを導入する際のガイドラインでは、個人情報を生成AIに利用させないように制定しており、その旨をクライアントに案内しています。
ー実際に生成AIを活用する職員や銀行員によるヒューマンエラーへの懸念については、いかがでしょうか？
万が一、ヒューマンエラーで個人情報が入力された場合、サービス内で検知し、アラートを発する機能を備えています。例えば、電話番号などの個人情報が検知されると、「この情報は取り扱っても大丈夫ですか？」という警告が表示される仕組みを取り入れ、簡単かつ安全に生成AIを使用できる環境を提供しています。
ブラックボックス化された生成AI。安全に選ぶ・使うための目利き術とは？
ー様々な生成AIサービスが誕生する中、安全な生成AIを選ぶ・使うためには、どのような目利きが必要になるのでしょうか？
私たちは生成AIサービスを提供する側として、サービスの仕組みや裏側を理解していますが、ユーザーからすると、どのサービスがどのように動いているのかはブラックボックスとして映ると思います。実際、私たちはOpenAIを含む10以上の技術的ライブラリーを使用していて、それを通じてお客さまの会話の精度を向上させたり、書類の読み込むスピードを高めたりしています。
しかし、ユーザーの立場からすると、各サービスがどのような技術を利用しているのか、どんなセキュリティ対策が取られているのかを具体的にチェックすることは難しいでしょう。その上でユーザーとしては、「このサービスはこれまでにどんな会社に導入されているのか」「どんなセキュリティレビューを受けているのか」などを真摯に確認することが重要だと考えています。
ー逆にいえば、生成AIサービスを提供する企業には、そういった情報の開示が求められるわけですね。
はい、企業側としてはこうしたユーザーの疑問に正直に答える姿勢が求められます。今後は、各サービスがどの技術的ライブラリーを使用していて、その安全性はどの程度なのかというクライテリア（基準）を設定し、公表するサードパーティの団体や組織が必要となるでしょう。私自身、こうしたチェック体制やプラットフォームの構築に向けた動きを推進していきたいと考えています。
PROFILE
一般社団法人生成AI活用普及協会 協議員／株式会社クラフター 代表取締役
早稲田大学在学中に起業し、6年間副社長兼CTOとして国内外で500万ダウンロードを誇るサービスを0から企画開発。その後リクルート株式会社にてウェブディレクターを勤め、株式会社クラフター（旧：チャットブック）を創業。Salesforce, East Ventures, Z Venturesから資金調達を発表しTechCrunch DisruptとTech in Asiaに登壇。テクノロジーに境界はないと海外中心の優秀な組織を構成。2022年7月にマネックスグループに同社をM&A。
