[参加レポート]「ChatGPT Meetup Osaka #2」に参加してきました

ChatGPT, 参加してみた コメントを残す

ご挨拶

お疲れさまです、寺井です。

少し間があいてしまいましたが、本記事は2024/05/24に大阪で開催された『ChatGPT Meetup Osaka #2』の参加レポートとなります。

日常生活において、生成AIが無くてはならない存在になりつつあると感じている方も多いと思います。

弊社では今期から生成AIの活用を推進するために、Chat GPTのTeamsプランに加入したりと、盛りに盛り上がっております！

そんな中で、皆さんはどんな風に生成AIを活用しているのか、以前からキャッチアップしたいと考えており、このたび参加してきました！（#1から参加しておくんだった…。）

「ChatGPT Meetup Osaka #2」について

今回で2回目の開催となる「ChatGPT Meetup Osaka」ですが、開催場所は私の中では定番になりつつある「gusuku Ashibinaa Osaksa」でした。
アールスリーインスティテュートさん、いつもキレイな会場をありがとうございます！！！

登壇レポート

Techカンファレンスのセッション情報を話すRAGを作ってみた話 Okamoto Hidetaka

『プロンプトは逆算して考えると良い』というお話がとても参考になりました。

どうしても目の前のプロンプトをどうすべきかばかりに目がいっちゃいそうですが、まずはどんな結果を求めているかを整理してから、最終的にどういうプロンプトを用意すべきかを考える。
というアプローチが効果的とのことでした。

引用元：Techカンファレンスの セッション情報を話す RAGを作ってみた話 by @hideokamoto
  • プロンプトは逆算して考える
    • どんな結果がほしいか　→検索周りは？　→プロンプトどうしよう
  • LangChain：処理を抽象化してくれるツール
  • 事前処理の重要性（精度向上に寄与）
    • プロンプトエンジニアリング・インデックス・与える情報のブラッシュアップ（HTML →Markdownへの変換等 →ノイズを減らす）
  • 検索スコアが見られる検索を使用したほうがよい

retrievalの評価ツール「ranx」を使ってRAGの改善をやってみる話 Shimizu Kuniaki

RAGを作っていく中で、RAGそのものの評価も重要であるというお話でした。
これまでRAG自体を評価するという観点を持っていなかったため、とても参考になりました。

LINEから「FAQデータセット」を公開しているとのことで、RAG作成を試したいときとかに有用そうです！

自治体における「子育てAIチャットボット」の普及に向けたオープンデータ化についての「報告書」及び「FAQデータセット」を公開

引用元：RAGのretrievalの評価を “ranx”で行う

  • RAGの評価が重要
  • 「ゴミを入れたら、ゴミが出てくる」
    • 不要なデータを入れると、不要な結果が返ってくる　→データ品質が重要
  • LINEが自治体向けQAを公開している
  • ranxはシンプルで学習コストが低いツール
    • retrievalの評価のみ対応、generationの評価は別途必要
  • generationの評価には「RAGAS」というツールを使用
    ↓GitHubで公開されてました
    GitHub - explodinggradients/ragas: Evaluation framework for your Retrieval Augmented Generation (RAG) pipelines

非エンジニアの税理士が学んだこと Takaeda Aya

AIに仕事を奪われる心配がよぎるも、その先に新たな市場を感じた。とのこと。
こういう発想の転換って何事においてもすごく重要に思います。

非エンジニアであっても生成AIを活用しまくる世界がきていて、めちゃくちゃいいですよね。

  • AIに仕事を奪われる心配　→新しい市場が生まれる
  • GPT-4のレシート読み取り精度が高い:
    • 手書きの帳簿や領収書も効率化
    • 読み込んだ資料やデータのセキュリティに関する懸念は考慮（税法など）

AIで生成したものをAIでチェックしてる話 Sumida Ippei

AIによる生成物の評価についての話でした。
生成AIで結果の二重チェックをするという、意外と聞いたことなかったお話で興味深かったです。

『DROBE』というサービス自体にも興味が湧いたので、男性向けのものは無いか聞いたんですが、
「男性は一度スタイリスト提案されたらそれで満足してしまう」
よって、継続的な提案を行うサービスはあまり刺さらないとのことでした。ｗ（ﾀｼｶﾆ

引用元：AIで生成したものをAIでチェックしてる話

  • 似た傾向のユーザーの回答を汎用的に使いたい　→不要な情報を削除（個人情報や特定のプランなど）
  • 生成AIによる結果をさらに評価する生成AI
    • サニタイズ漏れを防ぐための外観検査的なチェック
    • JSONのブロックごとに異常値を検出
  • 4　×　3.5のダブルチェックが有用
    • リコンサイルによる精度向上
    • LLM同士を討論させる

Kong AI Gateway - LLMと上手く付き合うためのKong流アプローチ Shinichi Hashitani

KongのAPI Gatewayを使ったLLMの活用方法についての話でした。
ヘッダーを切り替えるだけで、ユーザ側が意識せずにLLMを切り替えられたりと、便利で有用なサービスだと感じました。

引用元：Introducing Kong AI Gateway

  • API Gatewayの技術:
    • 内部処理を秘匿化（ルーティング、ロードバランス、ロギングなど）
  • 複数ユーザーが様々なLLMにアクセス:
    • 認可やセキュリティをAPI Gatewayで担保
  • AI Proxy:
    • 1つのエンドポイントで複数のLLMにアクセス可能
    • ヘッダーを切り替えることでLLMを切り替えられる
  • 実装後に新しいモデルが出た際にも簡単に切り替え可能:
    • エンドユーザーが意識しない範囲でプロンプトを切り替えられる

Bedrock Agentsの手なづけかたについて Yoshida Shingo

生成AIエージェントの時代が到来しているというお話でした。

作りたいものを宣言するだけで、開発～デバッグ～テスト～デプロイまですべてやるという
自律型エージェント「Devin」ヤバすぎる…。ぜひ触ってみようと思います！

  • 生成AIエージェントの時代:
    • BPOをAIエージェントで解決
  • AIエージェントとは？
    • 例）自律型エージェント「Devin」…開発からデプロイまで全て自動で行う
  • 複数のAIエージェントを同じ場所に置いて協働をシミュレートしてみた事例
    • マルチエージェントによる創発性が生まれた
  • Function Calling:
    • 登録された関数から適切なものを選んでアクションを実行
    • 順を追ってRequestを行い最終的に回答

ChatGPTでなんか作ってみた Kotauchi

スマートグラスと生成AIを組み合わせた、めちゃくちゃ面白いデモの紹介をしていただきました。

このあとの懇親会で体験させてもらったんですが、手の動き（筋繊維）と音声認識でChat GPTに指示を送り、結果をスマートグラス上に映すというものでした。

通信に少し時間がかかるとか、バッテリーの課題とかはあるようなんですけど、あと数年したらこういうものが当たり前になることも考えられるのかなぁとか感じました。
とにかくスゴかったです。ｗ

引用元：ARグラスにChatGPTを入れてみた

  • GPT-4oの精度が高い
    • 画像に対する処理が強い（マルチモーダルな処理）

実際のデモ映像紹介ポスト：

イベントの感想

Chat GPTのイベントということで、最初から最後までChat GPTに関する内容が満載で、大変勉強になりました。

お話を聞いていると、自分はまだまだ初歩的な使い方しかできていないと感じるので、新しい情報や事例をキャッチアップして、高度で有用な使い方をできるように頑張りたいと思います！

最後までお付き合いいただきありがとうございました。🙇

バナー引用元：https://chatgpt-jp.connpass.com/event/313708/

返信を残す

メールアドレスが公開されることはありません。 ※ が付いている欄は必須項目です

CAPTCHA