Location via proxy:   [ UP ]  
[Report a bug]   [Manage cookies]                

タグ

AWSに関するmisshikiのブックマーク (630)

  • Amazon Bedrock の Rerank API を活用してRAGの精度を向上させる - Taste of Tech Topics

    こんにちは、機械学習チーム YAMALEX の駿です。 YAMALEX は Acroquest 社内で発足した、会社の未来の技術を創る、機械学習がメインテーマのデータサイエンスチームです。 (詳細はリンク先をご覧ください。) RAG(検索拡張生成:Retrieval-Augmented Generation)で正しい情報をユーザーに提供する際に特に重要になるのが検索精度です。 そして、検索精度を上げる方法のひとつが「リランク」です。 リランクを行い、検索で取得した結果を関連度で並び替えなおすことで、ユーザーの求めている情報を回答しやすくなります。 そんなリランクを行うモデルがAmazon Bedrockに追加され、 Bedrock Knowledge Baseと組み合わせて使用できるようになりました。 従来は自前でモデルをホストする、など手間がかかりましたが、Knowledge Baseへ

    Amazon Bedrock の Rerank API を活用してRAGの精度を向上させる - Taste of Tech Topics
    misshiki
    misshiki 2025/01/21
    “Bedrock に追加されたリランクモデルの検証を行い、検索結果の改善に有用であることを確認”
  • AWSが“民主化”する生成AIトレンド「蒸留」とは

    AWSは生成AIにおけるモデルの蒸留を容易にできるサービス、「Amazon Bedrock Model Distillation」を、2024年12月に発表した。あらためて、蒸留とは何なのだろうか? AWSのアプローチは他社とどう違うのだろうか? Amazon Web Services(AWS)は2024年12月に開催したイベント「AWS re:Invent 2024」で大量の発表を行った。注目点の一つは生成Ai人工知能)における“蒸留(distillation)”への対応だ。 AWSは生成AIモデルファミリー「Amazon Nova」を発表した。このうち「Amazon Nova Micro」「Amazon Nova Lite」「Amazon Nova Pro」については発表時に一部リージョンで提供を開始、最上位モデルの「Amazon Nova Premier」については2025の早い時

    AWSが“民主化”する生成AIトレンド「蒸留」とは
    misshiki
    misshiki 2025/01/15
    “より大規模で複雑なモデルを使い、より小規模でシンプルなモデルをファインチューニングして知識や考え方を移転する。”
  • CMSサイト(動的)→S3(静的)移行を自動化! Pythonスクリプト公開中 - いっしきまさひこBLOG

    「CMSで管理されている動的なWebサイトを静的サイトに移行したい」と考えている人向けの記事です。CMSでサイトを頻繁に更新する必要がなくなった場合や、運用コストを削減したい場合などで、静的サイトへの移行は大きなメリットをもたらします。以下では、私が実践した手法と、そのために作成したPythonスクリプトを紹介します。 課題と解決策 CMSを利用した動的サイトには以下の課題があります: サーバーコストが高い CMSのメンテナンスが手間 これらを解決するため、私はCMSサイトを静的化し、Amazon S3+CloudFrontでホスティングする方法を選びました。この作業を効率化するため、自作のPythonスクリプトを開発しました。 このスクリプトは、以下の機能を実現します: 静的化:CMSからローカル環境にHTMLファイルを取得 リンク修正(オプション):内部リンクの変換や、一部HTML内容

    CMSサイト(動的)→S3(静的)移行を自動化! Pythonスクリプト公開中 - いっしきまさひこBLOG
    misshiki
    misshiki 2025/01/08
    セルクマ
  • Azure Blob(Webホスティング用)→S3移行を自動化! Pythonスクリプトを公開中 - いっしきまさひこBLOG

    2024年12月、「Azure CDN from Edgioが廃止される」という突然の通知に驚き、移行作業に追われた方も多いのではないでしょうか。私もその1人でした。Webスタティックホスティング用途で「Azure Blobストレージ+Azure CDN」を複数のサイトで利用していたため、急遽、別のCDNへの移行が必要になりました。 Azure Front Doorへの移行が推奨されていますが、私の用途ではオーバースペックでコストが見合わず※1、最終的にAmazon S3+CloudFrontへの移行を選びました。その過程で、Pythonスクリプトを用いて効率よく移行を行う方法を開発しました。 ※1 Azure Front Doorは高機能で優れた選択肢ですが、基料金が高額で、小規模なWebサイトでは費用対効果が低い場合があると思います。 課題と解決策 移行作業では、AWS DataSy

    Azure Blob(Webホスティング用)→S3移行を自動化! Pythonスクリプトを公開中 - いっしきまさひこBLOG
    misshiki
    misshiki 2025/01/08
    セルクマ
  • AWSのAIモデル Amazon Nova Lite で遊んでみる - Qiita

    Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article?

    AWSのAIモデル Amazon Nova Lite で遊んでみる - Qiita
    misshiki
    misshiki 2025/01/06
    “個人利用でも安く使えそうな生成AIモデルのAmazon Nova Lite と Nova Micro が登場したので遊んでみた。”
  • 2024年 ビッグテックのAI Agent 動向まとめ

    はじめに 株式会社neoAIの研究開発組織 (neoAI Research) / 東京大学の大槻真輝です。 最近LLMの推論能力の向上によりAI Agentがトレンドになりつつあります。また、MicrosoftAmazonなどのビッグテックもAI Agentをテーマに様々なプロダクトやサービスを展開し始めています。 そこで今回は2024年4月にIBMとMicrosoftが出したAgentに関するサーベイ論文「The Landscape of Emerging AI Agent Architectures for Reasoning, Planning, and Tool Calling: A Survey」 を軸にGoogleAWSMicrosoftOpenAI、AnthropicのAgentに関する動向や立ち位置を整理したいと思います。 論文概要 エージェントとは? 2023年の

    2024年 ビッグテックのAI Agent 動向まとめ
    misshiki
    misshiki 2025/01/06
    “2024年4月にIBMとMicrosoftが出したAgentに関するサーベイ論文「The Landscape of Emerging AI Agent Architectures for Reasoning, Planning, and Tool Calling: A Survey」を軸にGoogle、AWS、Microsoft、OpenAI、AnthropicのAgentに関する動向や立ち位置を整理。”
  • SageMaker Unified Studio から S3 Metadata をクエリする - Qiita

    S3 Metadata とは Amazon S3 Metadata は AWS re:Invent 2024 で発表された新機能です。 S3 Metadata を有効化すると、S3 バケットにアップロードされたオブジェクトのメタデータが自動で取得され、S3 Tables に格納されます。これにより Athena や Redshift、EMR 上の Apache Spark などの Iceberg 互換のクエリエンジンからメタデータへアクセスできるようになります。 S3 Metadata のユースケース re:Invent 2024 のブレイクアウトセッション STG212: What’s new with Amazon S3 で次のような代表的なユースケースが紹介されていました。 STG212: What’s new with Amazon S3 より引用 Find objects to

    misshiki
    misshiki 2024/12/26
    “SageMaker Unified Studio から S3 メタデータへクエリする方法や代表的なクエリ例を紹介”
  • Amazon Bedrockで「ユーザがアップロードしたドキュメントから回答を得る」方法のまとめ - Qiita

    はじめに 生成AIの文脈において、RAG(Retrieval-Augmented Generation)と呼ばれる技術は、生成AIのモデルがプロンプトを解釈し、ナレッジベースから関連情報を検索し、その情報を基にコンテンツ(回答)を生成するために活用されるものです。 RAGを活用すれば、生成AIのモデルが学習していない最新かつインターネットに公開されていない非公開情報を取り入れた回答を提供できるため、回答の正確性と信頼性が向上します。 しかしながら、ナレッジベースを活用したRAGでは、当然ながらナレッジベースを事前に構築し終えておく必要があり、このナレッジベースにも存在しない情報からは回答を生成することができません。 ナレッジベースが常に最新化されているとは限らないため、ユーザのニーズに追いつけないケースも多々あります。 このような背景から、最近は特に、ユーザがチャットボットを介してドキュメ

    misshiki
    misshiki 2024/12/25
    “最近は特に、ユーザがチャットボットを介してドキュメントをアップロードし、その内容に基づく回答を得たいというニーズが高まっています。 Bedrockの機能での方法をまとめます。”
  • Amazon SageMaker Unified Studio の構成や仕組みをまとめてみた #AWSreInvent | DevelopersIO

    こんにちは、森田です。 re:Invent 2024 で Amazon SageMaker の次世代サービスとして Amazon SageMaker Unified Studio が発表されました。 記事では、Amazon SageMaker Unified Studio について構成や仕組みについて解説していきます。 Unified Studio とは 機械学習(ML)開発のための統合開発環境です。 https://aws.amazon.com/sagemaker/ 上図でも記載されているようにデータ分析から前処理、モデルの開発までオールインワンで行えます。 Unified Studioを支える仕組みとして、「Lakehouse」と「Data and AI Governance」があります。 SageMaker Lakehouse データに素早く・簡単にアクセスするための機能です。 上

    Amazon SageMaker Unified Studio の構成や仕組みをまとめてみた #AWSreInvent | DevelopersIO
    misshiki
    misshiki 2024/12/24
    “re:Invent 2024 で Amazon SageMaker の次世代サービスとして Amazon SageMaker Unified Studio が発表されました。”
  • 次世代の Amazon SageMaker のご紹介: すべてのデータ、分析、AI が集まる場所 | Amazon Web Services

    Amazon Web Services ブログ 次世代の Amazon SageMaker のご紹介: すべてのデータ、分析、AI が集まる場所 12 月 3 日、データ、分析、AI の統合プラットフォームである、次世代の Amazon SageMaker についてお知らせします。まったく新しい SageMaker には、データ探索、準備と統合、ビッグデータ処理、高速 SQL 分析、機械学習 (ML) モデルの開発とトレーニング、生成 AI アプリケーション開発に必要なほとんどすべてのコンポーネントが含まれています。 現在の Amazon SageMaker は Amazon SageMaker AI に名称変更されました。SageMaker AI は次世代 SageMaker に統合されるだけでなく、AI および ML モデルの大規模な構築、トレーニング、デプロイに特に注力したいと考えて

    次世代の Amazon SageMaker のご紹介: すべてのデータ、分析、AI が集まる場所 | Amazon Web Services
    misshiki
    misshiki 2024/12/24
    “Amazon SageMaker Unified Studio (プレビュー) – 分析と AI のためのすべてのデータとツールを単一の環境で構築できます。...現在の Amazon SageMaker は Amazon SageMaker AI に名称変更されました。SageMaker AI は次世代 SageMaker に統合”
  • AIモデル構築ツール「Amazon SageMaker」の新機能で生成AIアプリ開発やデータ活用はどう便利になるのか

    Amazon Web Services(AWS)は2024年12月4日(米国時間)、機械学習(ML)モデルを構築できる「Amazon SageMaker」(以下、SageMaker)の次世代版を発表した。新しいSageMakerは高速SQL分析、ペタバイト規模のビッグデータ処理、データ探索と統合、モデル開発とトレーニング、生成型人工知能AI)に必要な機能を1つのプラットフォームに統合している。 AWSは、新しいSageMakerの変更点について次のように解説している。 SageMaker Unified Studioで生成AIアプリ開発はどう便利になる? 関連記事 Amazon SageMaker Studio Lab環境とCondaの使い方 無料で使えるStudio Labは、どうやって使えばよいのか。Studio Labプロジェクトランタイムの起動から、CondaによるPython

    AIモデル構築ツール「Amazon SageMaker」の新機能で生成AIアプリ開発やデータ活用はどう便利になるのか
    misshiki
    misshiki 2024/12/24
    “新しいSageMakerは高速SQL分析、ペタバイト規模のビッグデータ処理、データ探索と統合、モデル開発とトレーニング、生成型人工知能(AI)に必要な機能を1つのプラットフォームに統合している。”
  • Amazon Bedrock の Tool Use(Function Calling)でプロンプトに応じて処理を振り分ける - Taste of Tech Topics

    はじめに こんにちは一史です。 最高気温も10℃を下回る日も出てきて、外出する際には、マフラーをするようになりました。 皆様も体調にはお気を付けください。 さて、OpenAIChatGPTではFunction callingという会話の流れからAIが判断して関数(メソッド)を呼び出す機能がありますが、Amazon BedrockでもTool Useという機能により関数呼び出しをすることができます。 docs.aws.amazon.com 今回はこのTool Useを使って、旅行プランの提案・予約を行う生成AIチャットを作ってみます。 AIエージェントで実現されるような内容ですが、ToolUse(Function calling)が実際にどのように使えるかを生成AIチャットを作り、見ていきます。 はじめに 概要 Tool Useとは Tool Use は何をしてくれるのか Tool Use

    Amazon Bedrock の Tool Use(Function Calling)でプロンプトに応じて処理を振り分ける - Taste of Tech Topics
    misshiki
    misshiki 2024/12/24
    “OpenAIのChatGPTではFunction callingという会話の流れからAIが判断して関数(メソッド)を呼び出す機能がありますが、Amazon BedrockでもTool Useという機能により関数呼び出しをすることができます。”
  • 品揃えで勝負するAWS それでも界隈はOpenAIに夢中

    今年のAWS re:Inventも「生成AI祭り」だった。マット・ガーマンCEOの基調講演レポートでも書いたが、AWSは生成AIを前提にサービスを再構築し直すつもりだ(関連記事:AWSの再構築が始まった “既存の”ビルディングブロックはどう変わったか?)。推論とトレーニングを効率的に行なうチップレベルの革新を推進しつつ、機械学習データ分析などのサービスをSage Maker Unified Studioで統合していく。 そして競合との差別化ポイントは、Amazon Bedrockで利用できる基盤モデルの選択肢だ。OpenAIに全集中するマイクロソフトに対して、Amazon BedrockではAnthropic、Meta、Cohere、AI21 Labs、Mistral AI、Stability AIなどさまざまな基盤モデルを揃える。今年は動画生成AIのLuma AIやソフトウェアエンジニ

    品揃えで勝負するAWS それでも界隈はOpenAIに夢中
    misshiki
    misshiki 2024/12/24
    “注目度ではOpenAIがやはり優位と言わざるを得ない。グーグルの食いつき方も激しいが、AWSはまだ存在感を示せていない。”
  • AWS の生成 AI 最前線 : 顧客起点のイノベーション

    misshiki
    misshiki 2024/12/19
    全36ページのスライド資料。
  • 【AWS】Amazon SageMaker Unified Studio プレビュー版を構築してみた - Qiita

    これまで複数の AWS サービスを組み合わせて提供していたデータ分析環境を、Amazon SageMaker Unified Studio によって統合し、より効率的にデータ活用を実現することができるようになります。 Amazon SageMaker Unified Studio の構築 Amazon SageMaker Unified Studio の構築は、以下の 2 つのステップで行います。 ドメインの作成 プロジェクトの作成 それでは、Amazon SageMaker Unified Studio の構築手順を見ていきましょう。 ドメインの作成 ドメインとは、アセット(データやモデルなど)、ユーザー、そしてそれらのプロジェクトを統合的に管理するための組織単位です。 Step 1: コンソールアクセスとリージョン選択 AWS マネジメントコンソールにログインし、バージニア北部リージョ

    misshiki
    misshiki 2024/12/18
    “このサービスは、 SageMaker という名前がついていますが、 AWS の既存のデータアナリティクス、機械学習、生成 AI 関係のサービスを統合したオールインワン型のデータ分析基盤です。”
  • Amazon Bedrock Knowledge Basesに新機能 RAGベースアプリ開発はどう変わるのか?

    Amazon Web Services(AWS)は2024年12月1日(米国時間)、生成AI人工知能)アプリ開発用マネージドサービス「Amazon Bedrock Knowledge Bases」にカスタムコネクター、ストリーミングデータの取り込みと再ランク付けモデルのサポートを追加した。AWSは以下のように説明している。 カスタムコネクターとストリーミングデータの取り込みで、リアルタイム性を確保 関連記事 AWS、新たなマルチモーダルAIAmazon Nova」を発表 「Amazon Bedrock」で利用可能になるユースケースに応じたAIとは Amazon Web Servicesは、最先端をうたう新しい基盤モデル「Amazon Nova」を発表した。Amazon Bedrockを通じて「Amazon Nova理解モデル」と「Amazon Novaクリエイティブコンテンツ生成モデル

    Amazon Bedrock Knowledge Basesに新機能 RAGベースアプリ開発はどう変わるのか?
    misshiki
    misshiki 2024/12/17
    “(AWS)は2024年12月1日(米国時間)、生成AI(人工知能)アプリ開発用マネージドサービス「Amazon Bedrock Knowledge Bases」にカスタムコネクター、ストリーミングデータの取り込みと再ランク付けモデルのサポートを追加した。
  • Amazon Bedrock Knowledge Baseのクエリフィルター自動生成で検索の精度を向上させる - Taste of Tech Topics

    こんにちは、機械学習チーム YAMALEX の駿です。 YAMALEX は Acroquest 社内で発足した、会社の未来の技術を創る、機械学習がメインテーマのデータサイエンスチームです。 (詳細はリンク先をご覧ください。) この記事は Amazon Bedrock Advent Calendar 2024 17日目の投稿です。 re:Invent2024 ではたくさんの新機能が発表されて、あんなこともできるようになった、こんなことも……と興奮が止まらない日々です。 今回はそんなre:Inventで発表されたAmazon Bedrock Knowledge Baseの新機能の一つである、クエリフィルター自動生成を試してみました。 aws.amazon.com 今回試した構成 1. はじめに 1.1. Amazon Bedrock Knowledge Baseとは 1.2. ベクトル検索の欠

    Amazon Bedrock Knowledge Baseのクエリフィルター自動生成で検索の精度を向上させる - Taste of Tech Topics
    misshiki
    misshiki 2024/12/17
    “Amazon Bedrock Knowledge Baseの新機能クエリフィルター自動生成を試し、どれほど検索の精度が上がるか確認。 ベクトル検索が苦手としていたキーワードでの一字一句一致する検索を検索時の設定を追加するだけで解決できる”
  • Managed MLflow on SageMakerを試す - Qiita

    はじめに この記事はMLOps Advent Calendar 2024の14日目の記事です。 Databricksという会社でソフトウェアエンジニアをしている渡辺と申します。普段は業務でMLflowのCore maintainerをしています。 2024年6月に、Amazon SageMakerでのフルマネージド型MLflowが提供開始されました。MLflowを開発している身ながら、SageMaker上でのセットアップ方法やプロダクト全体についてはあまり把握できていなかったので、今回実際にサービスを使って理解を深めることにしました。 MLflowとは MLflowはオープンソースの機械学習プラットフォームで、主に実験やモデルの管理、評価、デプロイメント、トレーシングなどの機能を備えています。 これまでのMLflowの使い方 MLflowでは、「トラッキングサーバー」というサーバーを中心に

    Managed MLflow on SageMakerを試す - Qiita
    misshiki
    misshiki 2024/12/16
    “SageMaker Studioの中で、これまでのような複雑なセットアップなしでMLflowが利用できるのはかなり便利”
  • Amazon SageMaker Lakehouse とはどのようなサービスか - Qiita

    Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? 記事は Japan AWS Ambassadors Advent Calendar 2024 12 日目の記事です。 はじめに 先日開催された AWS re:Invent 2024 で Amazon SageMaker Lakehouse が発表されました。 Amazon SageMaker Lakehouse により Amazon S3 のデータレイクと、Amazon Redshift のデータウェアハウスを統合し、Apache Iceberg の API を使用してデータソースに横断的にアクセスできるようになります。 記事では

    misshiki
    misshiki 2024/12/16
    “024/12/12 時点の公開情報と re:Invent 2024 のセッション内容をもとに Amazon SageMaker Lakehouse が提供する機能について掘り下げ”
  • 2024年9月に公開されたAWSサービスのサポート終了アナウンスまとめ | DevelopersIO

    [廃止] AWS RoboMaker https://aws.amazon.com/robomaker/ 最初に2024年9月11日ごろに利用者向けにAWS RoboMakerのサポート終了がアナウンスされました。 具体的な内容については個別の通知で確認していただきたいのですが、アナウンスと同タイミングでサービスの新規利用が停止され、来年2025年9月10日をもってサービス終了となります。 サービス終了後の2025年9月11日にデータが削除されます。 直接の後継となるサービスは無く、AWSとしてはAWS Batchを使ったシミュレーションを代替方法として提示しています。 また、3D仮想環境の自動生成機能であるAWS RoboMaker WorldForgeについては代替手段が無く、サービス終了までにS3に既存データをエクスポートすることが推奨されています。 確認してみた 私の検証用AWS

    2024年9月に公開されたAWSサービスのサポート終了アナウンスまとめ | DevelopersIO
    misshiki
    misshiki 2024/12/16
    “AWS RoboMaker サービス終了” いろいろ終わっていた。ディープラーニング系はブームが終わった感。