OpenAI社が開発者向けに発表を行いました。この内容が凄まじく濃い内容でしたので、X(Twitter)では多くの方がこの発表内容を取り上げてお祭り状態になっていました。
以下のYouTubeで詳細を聞くことができます。
こちらの内容をまとめた内容が以下になります。
- カスタムモデルプログラムの発表:
- OpenAIが新しいプログラム「カスタムモデル」を立ち上げます。このプログラムでは、企業が独自のニーズに合わせたカスタムモデルを作成するために、OpenAIの研究者が協力。モデルのトレーニングプロセスの各ステップを変更し、ドメイン固有の事前トレーニング、カスタム強化学習ポストトレーニングプロセスなどを実施。
- トークン制限の拡張:
- GP4の確立された顧客のために、トークン制限を分単位で倍増。APIアカウントの設定で、レートリミットとクォータの変更を直接要求できるようになる。コピーライトシールドを導入し、著作権侵害の法的主張に直面した場合、顧客を守り費用を負担する。
- GP4 Turboの価格設定:
- 開発者からのフィードバックにより、GP4よりも20-25%安価なGP4 Turboを導入。 GP4 Turboは、プロンプトトークンでGP4の1/3、コンプリーショントークンで1/2になった。
- 速度の改善への取り組み:
- GP4 Turboの速度を向上させるための取り組み。 GPT 3.5 Turbo 16kのコストも低減、入力トークンは1/3になり、出力トークンは1/2になった。
- カスタマイズされたGPTの紹介:
- 特定の目的のためにカスタマイズされたChat GPTバージョン、GPTを紹介。 GPTは指示、拡張された知識、アクションを組み合わせて、より有用になる。 GPTは、ユーザーが自分の目的に合わせて簡単にカスタマイズでき、他のユーザーと共有可能。 GPTは、様々なタスクを容易に実行するために役立つ。
- GPTの具体的な例:
- Code.orgは、中学生向けの魅力的な体験を提供するために、Lesson Planner GPTを作成。 Canvaは、自然言語で要求を述べるだけでデザインを始めることができるGPTを構築。 Zapierは、6,000以上のアプリケーションに対するアクションを実行するGPTを開発。
- GPTのアクセシビリティ向上:
- 多くの人々がコードを知らずにGPTを構築したいと考えていることに言及。誰でも簡単にGPTを構築できるようになった。
この発表を聞いてpipon代表の北爪が思ったこと。
まず、カスタムモデルプログラムの発表は大きいと思いました。現在、ChatGPTの知識外の情報(例えば社内データなど)を与えるには、RAG(Retrieval Augumented Generation)という手法が一般的です。RAGについての技術記事はpiponの技術ブログでも書いているので、ご参考ください。
この方法でもある程度まではGPTに知識外の情報を処理・回答してくれるボットを構築することはできるのですが、知識外データが巨大すぎる時や、特定の言い回しを精度高く表現したいときは、カスタムモデルを作る必要があります。または、病院などインターネットでモデルを呼び出せないときも、このカスタムモデルをそのオンプレミスの環境に持ち込んでしまうことができるので、オフラインのシーンでも重要になります。カスタムモデルを作るために「ファインチューニング」と呼ばれる手法で、データを追加学習させていくのです。
RAGを構築して、限界を感じ始めた企業はこのカスタムモデル開発を進める動きが出てくると思いますので、この発表は大きいと感じました。
次に、GPT4のAPIの料金が安くなったことも大きな発表でした。GPT4のAPIの料金は非常に高く、1回のリクエスト(利用)で10円くらいかかってしまうこともよくありました。10円かかってしまうと、1万人のユーザーに使ってもらうことはなかなか難しいです。(1万人が1日1回リクエストしただけで10万円かかってしまいます。。。)
今回は入力が1/3に、出力が1/2になったことで、1度のリクエストに10円かかっていたコストが4円くらいになるイメージでしょうか。もちろんこれでもユーザーが大量だとまだまだ大きな金額がかかってしまいますが、大きな値下げをしてくれて、AIを民主化するというOpenAIのビジョン通りの有言実行だなと感じました。OpenAIの歴史上こういった値下げは何度も行われており、今、高すぎて使えないと思っていても、将来を見越していずれOpenAIが価格を下げてくれると信じて、今から研究開発をする方が良いと思います。そうでないと、大量のユーザーにも使ってもらえるくらいコストが下がった時には、すでに研究開発をしているライバル企業に知見の上で大きな差をつけられてしまいます。
最後にすごいと思ったのが、自分の思い通りのGPTを開発して、それを人へ共有することができる発表です。GPTの汎用性は全業界に利用可能であり、その業界の人の知見を持って、GPTを活用することで、何倍にも効率的な業務改善や効率化が可能になります。今までであればそれを公開するためには、エンジニアの開発作業が必要でしたが、この発表により、誰でも自分の作ったボットを公開することができるようになりました。
将来的にはGPT Storeのようなものがリリースされ、OpenAIはプラットフォーマーとしての地位を目指していくのだと思います。Apple Storeが出来た時に乗り込めた人は大きな果実を得られたように、我々ディベロッパー側は、この新しい波に出来るだけ早く参加することが重要だと思います。
以上、他にも気になる発表はたくさんあったのですが、技術的な話になりますので、それはpiponの技術ブログの方で書かせていただきます。
もし、生成AIを研究したい・利用したいというご要望がありましたら、フォームからご連絡をいただけますと幸いです。
