【gpt-3.5-turbo-16k】ChatGPT3.5のAPIの性能を徹底解説

gpt-3.5-turbo-16k ChatGPT3.5 API

メディア事業部AIライターの柏崎です。

みなさん、ChatGPTのAPIがアップデートされたことをご存知ですか?

今回のアップデートでGPT-3.5 APIが「はやい、やすい、(トークン数が)でかい」になりました。
どこかの牛丼チェーンみたいですね!

そこで今回は、APIについて何がアップデートされたのか、速さや価格はどうなったのかをまとめました。

ぜひ最後までご覧ください。

なお弊社では、生成AIツール開発についての無料相談を承っています。こちらからお気軽にご相談ください。
→無料相談で話を聞いてみる

目次

gpt-3.5-turbo-16kの概要

2023年6月13日に次のようなアップデートがありました。

  1. モデルの改善:gpt-3.5-turbo-16kが導入された。開発者は一度に日本語だと約8000文字を処理できるようになり、より効率的なテキスト生成が可能になりました。
  2. コスト削減:開発者向けのコストが大幅に削減されました。
  3. 新機能の導入Function Call という機能が追加されました。開発者はチャットボットが外部ツールを呼び出したり、自然言語をAPI呼び出しに変換したりすることが可能になりました。

なお、Function Callingの所感をまとめた記事は後日書こうと思ってます。

では、旧バージョンとの比較を見ていきましょう!

gpt-3.5-turbo-16kを比較してみた

比較項目は以下の2つです。

  1. 処理速度
  2. 価格

比較したモデルは、以下の4つです。

  1. gpt-3.5-turbo-0301
  2. gpt-3.5-turbo-0613
  3. gpt-3.5-turbo-0613-16k
  4. Azure OpenAI 3.5-turbo-0301

それではそれぞれ確認していきましょう!

処理速度

次のようなプロンプトとシェルスクリプトを使い、速度を計測しました。

プログラムを3回実行した平均値から、速い順番を決めています。

シェルスクリプト:

curl https://api.openai.com/v1/chat/completions \

  -H "Content-Type: application/json" \

  -H "Authorization: Bearer {your_api_key}" \

  -d @message.json \

  -w "%{time_total}\n"

プロンプト(message.json):

{

    "model": "gpt-3.5-turbo-0613",

    "messages": [

        {

            "role": "user",

            "content": "hello, worldと10回言ってください。"

        }

    ]

}

ちなみに、「Hello,worldと10回言ってください」としたのは、測定結果から偶然性をなくしたいからです。

仮に1回だけにすると、たまたま速かった/遅かったとなると思うので、なるべく公平にするためにこのようなプロンプトにしています。

速い順に並べた結果は以下のとおりです。

  1. GPT3.5-turbo-0613
  2. GPT3.5-turbo-0613-16k
  3. Azure OpenAI
  4. GPT3.5-turbo-0301

実験結果の詳細は、表にまとめています。

モデル名gpt-3.5-turbo-0613gpt-3.5-turbo-0613-16kAzure OpenAI 3.5-turbo-0301gpt-3.5-turbo-0301
1回目0.8132011.6105101.5930993.083588
2回目0.8811641.3358051.7789643.106458
3回目0.8522411.2451261.7617163.231992
平均0.8488681.3971471.7112593.140679

100文字(Hello World 10回分)出力にかかった時間(秒)

旧バージョン(gpt-3.5-turbo-0301) と、新バージョン(gpt-3.5-turbo-0613)を比較すると約3倍の差がありますね。

めちゃくちゃ速くなってる!

価格

OpenAIの情報によると、gpt-3.5-turboの入力トークンのコストを25%削減したそうです。(出力トークンについては記載がなかったです。)

gpt-3.5-turbo-0301に関しては、0.002ドル/1kトークン(非公式)。

モデル名gpt-3.5-turbo-0613gpt-3.5-turbo-0613-16kAzure OpenAI 3.5-turbo-0301gpt-3.5-turbo-0301
金額0.0015ドル/1k入力トークン1K出力トークンあたり0.002ドル1K入力トークンあたり0.003ドル1K出力トークンあたり0.004ドル0.002ドル/1kトークン0.002ドル/1kトークン

たしかに安くなってそうですね。

精度

精度に関しては、感覚的にはアップしているように感じました。

強化学習の成果だと思います。

検証項目を改めて、後日まとめますのでお楽しみに

なお、ChatGPT APIについて詳しく知りたい方は、下記の記事を合わせてご確認ください。
ChatGPT APIとは?利用方法や料金の確認方法、活用事例15選を紹介

神アプデによってGPT APIはより高速になりコスパが上がった

OpenAIのGPT APIがアップデートされました。

主な変更点は以下のとおりです。

  1. モデルの改善:新たなgpt-3.5-turbo-16kが導入された。開発者は一度に日本語で約8000文字を処理が可能。
  2. コスト削減:開発者向けのコストが大幅に削減され、入力トークンのコストが25%削減。
  3. 新機能の導入:Function Callという新機能が追加。開発者はチャットボットが外部ツールを呼び出したり、自然言語をAPI呼び出しに変換したりすることが可能。

スピードテストの結果では、新しいモデルgpt-3.5-turbo-0613が最も速い。

旧バージョンのgpt-3.5-turbo-0301と比較して約3倍のスピードアップが達成されています。

価格に関して、gpt-3.5-turboの入力トークンは、25%安くなりました。

サービス紹介資料

【無料】2023年2月版生成系AIの業務活用なら!

・生成系AIを活用したPoC開発

・生成系AIの業務活用コンサルティング

・システム間API連携

サービス紹介資料

生成系AIの業務活用なら!

・生成系AIを活用したPoC開発

・生成系AIのコンサルティング

・システム間API連携

最後に

いかがだったでしょうか?

弊社では

・マーケティングやエンジニアリングなどの専門知識を学習させたAI社員の開発
・要件定義・業務フロー作成を80%自動化できる自律型AIエージェントの開発
・生成AIとRPAを組み合わせた業務自動化ツールの開発
・社内人事業務を99%自動化できるAIツールの開発
ハルシネーション対策AIツールの開発
自社専用のAIチャットボットの開発

などの開発実績がございます。

まずは、「無料相談」にてご相談を承っておりますので、ご興味がある方はぜひご連絡ください。

➡︎生成AIを使った業務効率化、生成AIツールの開発について相談をしてみる。

生成AIを社内で活用していきたい方へ

「生成AIを社内で活用したい」「生成AIの事業をやっていきたい」という方に向けて、生成AI社内セミナー・勉強会をさせていただいております。

セミナー内容や料金については、ご相談ください。

また、弊社紹介資料もご用意しておりますので、併せてご確認ください。

投稿者

  • Leon Kobayashi

    必ずフォローすべきAIエバンジェリスト(自称) => 元東証一部上場ITコンサル (拙者、早口オタク過ぎて性に合わず退社)<-イマココ 【好きなもの】リコリコ・しゃぶ葉 宜しくおねがいします。

  • URLをコピーしました!
  • URLをコピーしました!
目次