[参加レポート]「2023-12-19 AWS パートナーミートアップ in 大阪」に参加＆登壇してきました！

ご挨拶

お疲れさまです、寺井です。

本記事は2023-12-19に大阪で開催された「AWS パートナーミートアップ in 大阪」の参加レポートとなります。

少し前のことになりますが、せっかくの登壇機会でしたので、ブログでも紹介させていただこうと思います。
会場側の都合により撮影不可のイベントだったので写真が無く、絵面的には少し寂しい感じになりますがご理解ください。🙏

AWS パートナーミートアップ in 大阪

AWSさん主催のパートナー向けイベントです。
開催場所はAWS Japan 大阪オフィスでした。

イベント後の軽食(&お酒)までご用意いただけて、やっぱり最高でした。

登壇資料の紹介

｢SageMaker Canvas｣で｢Bedrock｣の基盤モデルをファインチューニングして俳句のウマさを競わせてみた

以前ブログで紹介した内容から少し派生させて、ファインチューニングまでやってみました。

当初は「俳句」というものを全く理解していない状態だったものが、データを与えてチューニングすることで、期待する結果に近いものを返すようになる。
というところまでを検証してみました。

結果的には会場も結構ウケて嬉しかったです。ｗ

AWS re:Invent 2023 振り返り　[AWS SA 塩飽さん]

まずはAWSの塩飽さんによるre:Invent re:Capからスタートでした。

約45分という短い中にre:Inventのキーノートセッションをギュッと凝縮してお話いただきました。
録画して社内に持って帰りたいぐらいの面白さでした。ｗ

少し"かいつまんで"ご紹介します。

• 2000を超えるブレイクアウトセッションが実施
  「2000」ってちょっともう想像付かないですね。
  とにかくとんでもない量のセッションが繰り広げられていたようです。

Peter DeSantis - 基盤について

• Aurora Limitless Database

  • 自動垂直/水平スケーリング
  • ポスグレ互換 プレビュー

• キャッシュ　→ElastiCache Serverless

• DWH(データウェアハウス)　→Redshift Serverless with AI-driven scaling and optimizations

  • 「Redshift Serverless」…小さいクエリが発生する中で、大きめのクエリが発生すると、スケーリングが間に合わない
  • AIがワークロードを学習して最適化

Adam Selipsky

生成系AI,Zero ETLなどが主な内容

• S3
  主にデータレイクとして活用していく中で「もっとスピードが欲しい」 という要望
• Express One Zone
  • S3 標準の10倍早い（Bedrock等からも利用可能）
  • 1AZで保存される（99.95% の可用性と 99.9% の可用性 SLA）
• Graviton 4
  • 3と比較して、30%高速　50%多いコア数
• ML
  「パフォーマンスを挙げたい」　という要望
• Trainium2 Trn2インスタンス
  • 最大65EFLOPS（exaFLOPS）

ちなみに、EFLOPSは

1秒間に実行できる浮動小数点演算の回数を100京（けい）回単位で表したもの。

とのことです。ちょっと何言ってるのか（

総じて、生成系AIの基盤に必須となる「パフォーマンス」という観点が深掘りされている印象でした。

Bedrock

• Continued pre-training
  • 更に学習を継続させる　→継続的な事前training
• Knowledge Bases for Amazon Bedrock
• Agents for Amazon Bedrock
  • 要はRAG（Retrieval Augment Generation）を構築できるサービス
• Guardrails for Amazon Bedrock
  • 更に安全なデータ生成

Amazon Q

• 裏側はBedrockだが、更にマネージドでやりやすく（※現時点では英語のみ。）
• Redshift zero-ETL機能の展開
  • Aurora ポスグレ
  • RDS for MySQL
  • DynamoDB

やっぱり『Bedrock』『Q』の話題は外せませんね。
ここだけみてもめちゃくちゃ良さそうなアップデートが続々となされました。

Dr. Swami

Bedrock

• 基盤モデルを拡充
  • 日本では現時点で日本語対応されているClaudeを使用されることがほとんど
  • Titan Image Generator
  • 画像生成
  • すかしを挿入したりできる（AIが作ったとわかるようにできる

SageMaker

• SageMaker HyperPod
  • 分散トレーニング用のインフラ　→チェックポイントから再開可能

Q

• Amazon Q generative SQL in Amazon Redshift

  • 自然言語でSQLクエリ生成

• Amazon Q data integration in AWS Glue

  • 自然言語で開発者をサポート
  • データ処理、統合、使い方ガイドやChatによるトラブルシューティング

• Model Evaluation on Amazon Bedrock

  • 多様な基盤モデルの比較評価
  • SageMaker Ground Truthに近い

Dr. Werner Vogels

THE FRUGAL ARCHITECT（FRUGAL　→倹約）

全体のほぼ半分ぐらいの時間を費やしていた

• 七つの法則
  • コストを非機能要件に
  • コストをビジネスに合わせて調整できるシステム
  • アーキテクチャはトレードオフ
  • 監視(オブザーバビリティ)されていないシステムは未知のコストが発生する
  • コスト意識の高いアーキテクチャでコスト管理を実装
  • コスト最適化はインクリメンタル
  • 挑戦のしない成功は思い込みを発生させる

大変面白い話だったんですが、全てを細かく紹介しているとキリがないので、大枠の紹介のみとさせていただきます。

『私達はいつもそうやってやってきた』　→『前例踏襲』は危険

『作るコストより　運用コストの方が高い』

• SageMaker Studio Code-OSS (VS Code – Open Source)
  • VScodeで開発ができるように
• Application Composer in VS Code
  • アイコン並べてSAMテンプレートを作成

かなり厳選したつもりです。（多い

内容が非常に濃くて、あっという間の45分でした。
ありがとうございました！！

LT大会

ここからは参加パートナーによるLT大会となります。

順番はその場でくじ引きで決めることになり、私は5番目という場が温まっていて且つトリでもないええ感じの順番でした。ｗ

Bedrockのアップデートについて　[フェンリル　三崎さん]

• Knowledge Bases
  • RAGを簡単に作れる　→ハルシネーションの軽減に繋がる（引用元を書いてくれる
• Agents
  • Knowledge Bases + Lambda のようなイメージ
  • 生成系AI + アプリケーションという形で組み合わせができる

生成系AI好きが伝わる非常に良いセッションでした。

「『Agents』は『Knowledge Bases + Lambda 』のようなイメージ」
分かりやすい。

AWS実費を管理できるアプリを作った　[シーズ　中井さん]

• 従来は経理担当者がマネジメントコンソールから一つ一つ手でチェックしていた
• APIで取りに行くが、コストがかかるのでDynamoDBにキャッシュしてコスト最適化
  • API Gateway ＋ Cognito　限られたGoogleアカウント+IPで制限

実際の画面を軽くデモ的にお見せいただけましたが、普通に売れてしまいそうなクオリティのものでした。
若手の方なのに凄かったです。

技術だけではないre:Invent　[フェンリル　柴田さん]

• INO から始まる　Amazonのイノベーションを学ぶセッション
  • （INO103　オススメ）Amazonのイノベーション文化の話　～　イノベーションの人間的な側面
  • 人の活動は感情に左右される　→90%が左右されているといわれている

技術面だけではなくAmazonのイノベーションを学ぶことができるセッションもあるとか。
正直言ってここで聞くまで全然知りませんでした。

あれだけの大企業にまでなったAmazonのカルチャーを知れるようなので、時間を取って見てみたいです。

AWS CLIの世界へお邪魔してみた　[ターンアンドフロンティア　田中さん]

• CLIでしかできないこともある
  • WAF Web ACL タグ付け
  • S3 sync
  • RDSバックアップファイルをRDSインスタンスへインポート　→MySQL,ポスグレのみ

マネジメントコンソールが急に変わって「あれ？」となる場面って結構あるので、CLIにも慣れておく必要があるんだろうなぁと再認識できました。

自己紹介の中で赤文字で「お酒が好き」と書いてあったのが印象深いです。ｗ
（この後一緒に飲みに行きました。）

｢SageMaker Canvas｣で｢Bedrock｣の基盤モデルをファインチューニングして俳句のウマさを競わせてみた　[ディーネット　寺井]

どんな内容で話したかは↑の資料にて。

Console-to-Code 触ってみた　[えむぼま　住山さん]

• コンソールからだと付け忘れが発生する
• EC2コンソールの操作を記録してCLIコードを表示（バージニアリージョン）
  • ここから更にCDKコードCFnの生成も可能
• 現時点のデメリット
  • 操作が記録されないことも（半々ぐらい
  • ALB,VPC作成されない（12/18時点）
  • クライアントトークンが発行され、これもそのままConsole-to-Codeで発行される　→そのままだと使えない

『Console-to-Code』気になってたので聞いててめちゃ触りたくなりました。
ちょっとまだ現時点ではプレビュー的なところがあるので、もう少し改善されていくのを待ちたいところですね。

感想

LTをしたお陰か、ネットワーキングタイムでは色んな人に声をかけていただけて、たくさんの人と繋がることができました。

総じて言えるのは、やっぱりLTしてよかったなーと感じます。
これからもどんどんアウトプットしていきます！

ありがとうございました。