Location via proxy:   [ UP ]  
[Report a bug]   [Manage cookies]                

タグ

2023年3月30日のブックマーク (5件)

  • RWKVをローカルPCで動かす(pyenv/Docker)

    OSはLinuxです。WindowsWSL2で動かしている人もいるので、多分動くと思います。Linux/Windows(WSL2)のセットアップに関しては、以下記事参照ください。 CPUのみでも動かせるようですが、メモリが大量にいります。メインメモリが少なければ、とりあえずキャッシュ領域をアホほど(100GBとか)増やしておけば動くようです。足りないと途中でクラッシュします。 メモリが不足気味でしたら、以下記事参考に最初に設定しておいてください。 モデルダウンロード モデルをダウンロードします。好きなものをダウンロードしてください。初心者は、最初は小さいものを試して自信をつける(?)のがよいかもしれません。 14B バカでかモデル 7B デカいモデル 7B alpacaでファインチューニングされているのでちょっと賢い 3B 小さめモデル pyenv 事前準備 pyenvを使う方法です。ま

    RWKVをローカルPCで動かす(pyenv/Docker)
    inurota
    inurota 2023/03/30
  • ChatGPTの頭のなかをのぞき見る|日経サイエンス

    「この小説の続きを考えて」「英文を和訳して」「新商品のアイデアを出して」──ChatGPTは,人間のあらゆる無茶振りにまじめに答えてくれる対話型AIだ。ユーザーによって色々な使い方が考案され,「こんな使用法がある」「AIがこんな回答を返してきた」といった話が日々のニュースやSNSを賑わせている。 しかし,このAIが最も興味深い姿を見せてくれるのは,人間の質問にうまく答えられた時ではなく,間違った回答をした時だ。数学の問題を解かせると,ChatGPTは人間がまずしないような,妙な間違い方をすることがある。突然しれっと「もっともらしいウソ」をつき,文章の文法構造を問うととんちんかんな答えをする。 実は,ChatGPTはネット上にある大量のテキストを読み込んで文章中の単語と単語の関係性を学習しているだけで,四則演算をはじめとした数学や,国語の文章の読解方法といった個々の知識体系を一切教えられてい

    ChatGPTの頭のなかをのぞき見る|日経サイエンス
    inurota
    inurota 2023/03/30
  • 🦜️🔗 LangChain

    🦜️🔗 LangChain
    inurota
    inurota 2023/03/30
  • LLM連携アプリの開発を支援するライブラリ LangChain の使い方 (1) - LLMとプロンプト・チェーン|npaka

    「LangChain」の「LLMとプロンプト」「チェーン」の使い方をまとめました。 1. LangChain「LangChain」は、「LLM」 (Large language models) と連携するアプリの開発を支援するライブラリです。 「LLM」という革新的テクノロジーによって、開発者は今まで不可能だったことが可能になりました。しかし、「LLM」を単独で使用するだけでは、真に強力なアプリケーションを作成するのに不十分です。当の力は、それを他の計算や知識と組み合わせた時にもたらされます。「LangChain」は、そのようなアプリケーションの開発をサポートします。 2. LangChainの支援領域「LangChain」の支援領域は、次の5つがあります。 (1) LLM とプロンプト (2) チェーン (3) データ拡張生成 (4) エージェント (5) メモリ (6) 評価 (BE

    LLM連携アプリの開発を支援するライブラリ LangChain の使い方 (1) - LLMとプロンプト・チェーン|npaka
    inurota
    inurota 2023/03/30
  • 「GPT-4より強力なAIの開発を直ちに停止せよ」──公開書簡にマスク氏やウォズニアック氏が署名

    AIの安全性について研究する非営利の研究組織Future of Life Institute(FLI)は3月28日、GPT-4よりも強力なAIシステムの開発と運用を少なくとも6カ月間停止するように呼びかける書簡を公開し、稿執筆現在1000人以上が署名している。イーロン・マスク氏や、米Appleの共同創業者、スティーブ・ウォズニアック氏の名前もある。 人類にとって深刻なリスクをもたらす可能性のある一般的なタスクにおいて、人間と競合するようになったAIシステムに対する懸念から提示された。現在のAI技術が安全性や倫理性の問題を引き起こす可能性があるため、研究者や開発者に対して、これらのリスクを十分に評価し、必要な対策を講じるよう呼びかけている。 また、AIがもたらす利益とリスクの均衡を保つために、国際的な協力と競争の制限が重要だと主張する。信頼性、アライメント、忠誠心などを確保するために必要な

    「GPT-4より強力なAIの開発を直ちに停止せよ」──公開書簡にマスク氏やウォズニアック氏が署名
    inurota
    inurota 2023/03/30
    ウォズならともかくイーロン・マスクに倫理的なことを説かれても「どの口が?」以外の感想がないので、この手のオープンレターに看板として依頼する著名人の人選はPVじゃない指標で考えたほうが良いと思います。