はてなブックマーク

Azure OpenAI Dev Dayにおいて発表したLLMシステム開発のTips集です。 ◆Prompting System Prompt は構造化・再利用を考慮せよ Prompt Store を作って複数のエージェントでプロンプトの部品を共有 Lost in the Middle…

2024/3/6 Forkwell Library #45で登壇した際の資料です。 名前の通りGPT開発の「速度」「精度」「評価」のそれぞれについて解説してます。 近く大全↓とも統合するかと思いますが取り急ぎ。 https://speakerdeck.com/hirosatogamo/chat…

20230712に実施されたシステム管理者感謝の会/システム管理者アワード特別講演で使用した資料です。前半はGPT全般の話や展望、後半はGPTシステムを作る上で注意する管理面の内容について触れています。 更に詳しく知りたい方はこちらも参照してください。 https://speakerdeck.c…

9/28の #日本CTO協会 さんのイベントで登壇した資料を公開しました。 「ChatGPTの10ヶ月と開発トレンドの現在地」 開発のトレンドの最新情報をざっくり纏めています。 ・Prompt Engineering開発の現在地 ・RAG開発の現在地 ・Plugin開発の現在地 ・GPT-Vの登場と生成AI時代のこれからについて やや開発者寄りな内容なので、基礎を知りたい場合はAzure OpenAI大全も併せてご確認を。 (こっちも近々最新化します…) https://speakerdeck.com/hirosatogamo/chatgpt-azure-openai-da-quan

私の今まで経験してきた全てのLLMノウハウを詰め込んだ、LLMシステムの開発ガイドです。 初めてLLMシステムを開発したいと思った時でも、精度改善や運用に行き詰った時でも、何かしら役に立つと思います。 現在200ページ超。 今後も随時更新していきます。 2023/7/28 体裁修正、余計…

Build Japanで発表した内容です。 主にLLMの開発上の新しいトレンド説明。 関連する Azure AI のアップデートを挟みました。 (デモ動画は動きませんので悪しからず…) 1. Plugin GPT の本質を考える 「GPT によるツールとの接続」というコンセプトを世に示した Bing Chat ツール連携で爆発的に広がる GPT の可能性 AIがサービス利用を仲介する未来像 Azure OpenAI Service プラグイン Azure OpenAI Service on your data on your data が解決する独自データ導入における課題 2. Prompt Engineering GPT の言語生成過程を改めて確認する GPT の推論時の影響要素 Fine tuning と Prompt Engineering との�位置づけ ユーザサイドの Promp

運用保守 ログの保存と活用 API監視 ライブラリ管理 速度性能 GPT-3.5, GPT-4の速度性能の例(Azure) イベントストリームでの対処 可用性 APIの稼働率 クォータ制限 APIの負荷分散による対処 セキュリティ Azure OpenAIのネッ…

発表動画はこちら。 https://youtu.be/l9fpxtz22JU 2023/4/29 一部修正とAPIに関するページ追加 2023/5/11 ChatGPTの言葉の意味を補足する資料を追加。Azure OpenAI Serviceで使えるモデルの記載を一部修正・最新情報追記。 202…

3/24にアップした資料が含まれますが、 ベーシックなとこから全部入りにした資料です。 ・今までのAIとGPT ・GPT関連ニュースリリース ・OpenAIとMicrosoftの関係 ・Azure OpenAI Serviceの位置づけ ・ChatGPTなど言語生成モデルの挙動イメージ ・…

GPTはじめ大規模言語モデルの登場により、MLシステム開発にもパラダイムシフトが起こっています。流れが速すぎてやや混沌としてきたので、プロンプトエンジニアリングの考え方をはじめとした新しい概念について有用な引用と共に交通整理をしてみました。 今から始めたい人はまずこれを読むと、どんな点に配慮すべきかが…