We just hit up Chicago 🇺🇸

みなさんこんにちは、データ推進室データテクノロジーラボ部の桐生です。もうすぐクリスマスですね！みなさんの元にサンタクロースが無事に訪れることを願っています。私は在宅勤務用に良いオフィスチェアが欲しいのですが、我が家に煙突はありませんしオフィスチェアはめちゃくちゃ重いので多分サンタクロースは持ってきてくれなさそうです。

さて、およそ１ヶ月前のことになりますが2024年11月18日〜22日にかけて米国シカゴにてMicrosoftの年次カンファレンスであるIgnite 2024が開催され、そちらに現地参加してきました。この記事ではカンファレンスの様子やハンズオンの体験記などについて、私と同じくデータテクノロジーラボ部所属の松田と共にお伝えしたいと思います。

本記事は、データ推進室 Advent Calendar 2024 19日目の記事です

Microsoft Ignite

Microsoft IgniteはMicrosoftが開催する年次のテックカンファレンスです。毎年秋ごろ、10月〜11月に開催されるのが通例のようです。Microsoftの年次カンファレンスにはもう一つMicrosoft Buildというイベントがあります。Buildはソフトウェアエンジニアをメインターゲットにしている一方で、Igniteはシステム管理者をメインターゲットとしているようです。このためKeynoteでもデータセンター・セキュリティ・システム運用の話が盛り込まれていたりと、話題の幅が広いと感じました。とはいえ、後述するようにAI関連の発表も盛り盛りでソフトウェアエンジニアにとっても十分に学びが深く楽しめるイベントだと感じました。

特徴	Microsoft Ignite	Microsoft Build
対象オーディエンス	ITプロフェッショナル、システム管理者	ソフトウェアエンジニア
コンテンツの焦点	IT管理、クラウド、セキュリティ	ソフトウェア開発、アプリケーション
セッション内容	実装、管理、ベストプラクティス	技術セッション、コーディングデモ
開催時期	秋（10月または11月）	春（5月頃）

ちなみに2025年の開催は米国カリフォルニア州のサンフランシスコ、ということがすでに決まっているようです。
https://ignite.microsoft.com/en-US/home

シカゴってどんなところ？

シカゴは米国中西部に位置するイリノイ州の州都で、ニューヨーク・ロサンゼルスに次いで人口の多い大都市です。アメリカ建築で有名な都市で、中心市街地には荘厳で味のあるビルが多くみられました。建築好きな方は、街歩きをするだけでワクワクすることと思います。またシカゴはミシガン湖に面しており、湖からの風が強いことで有名で、"The Windy City“というニックネームで親しまれています。お土産屋さんにもそれをウリにしたTシャツなどが売っていました。冬の強風はかなり体に堪え、滞在期間中には日中平均2℃・体感気温-5℃なんて日もありました。

スポーツも盛んで、野球ではシカゴ・カブス、バスケットボールではシカゴ・ブルズがホームチームとして有名です。シカゴ・ブルズはあのマイケル・ジョーダンが在籍していたことでご存じの方も多いと思います。

実は、Microsoft Igniteの初回は2015年にシカゴで開催され、「10年ぶりにシカゴへ戻ってきた！」とセッションで語っているスピーカーもいました。Igniteの会場はMcCormick Placeというコンベンションセンターで、シカゴ中心部から４kmほど南に位置します。北米最大のコンベンションセンターということで、とてつもない広さでした。

Keynote

もちろんオープニングのプレゼンターはサティア・ナデラCEOが務めました。今年のテーマは「Agentic World」ということで、Agentを軸に話が進められました。最初に昨今のAI関連の進化について述べた上で、それらが3つの機能に貢献すると説明しました。

1つ目は、マルチモーダルなインターフェース。2つ目は、新しい推論と計画による複雑な問題への対応。そして3つ目は、長期記憶可能なコンテクストです。これらを活用することで、様々なタスクを実行するAgentを作り出すことができます。具体的なAgentのタイプとして、Personal agents, Organizational agents, Business process agents, Cross-org agentsといったものが挙げられました。それらのAgentが多数存在し、相互に作用しながら複雑な仕事をこなしていく世界がAgentic Worldの概念です。

そしてそのようなAgentic Worldを支えるプラットフォームとして、3つのレイヤーを提供していると説明しました。さらに、その中で最も優先していることはセキュリティであり、すべてのレイヤーにおいて考慮されていることを強調しました。3つのプラットフォームは以下の通りです。

• Copilot：広く多くの利用者のため。誰もが簡単に生成AIを「使える」エージェントを「作れる」基盤
• Copilot devices：エージェントの力を発揮し、クラウドとエッジ双方の力とバランスを活かしたデバイス基盤
• Copilot & AI Stack：開発者を対象として、より高度でカスタマイズされたエージェント開発の基盤

続いて、それらのプラットフォームについて、新機能を中心に発表がなされました。

Copilot

「Copilot is the UI for AI」というキーワードとともに、Copilot Control Systemとして、UIとしてのCopilot、Agentを作るためのツールとしてCopilot Studioが紹介されました。これまで用意されたCopilotを利用するだけでなく、自分たちで自ら作っていくための機能や3rd Partyエージェントなどが紹介され、さらにROIを測定するためのCopilot Analyticsも紹介されました。オンライン会議でのリアルタイム翻訳（声色まで再現）や、PMとしてタスク管理してくれるエージェント、会議をファシリテートしてくれるエージェントなど、なかなかインパクトのあるデモが披露され、とても未来を感じさせる内容でした。

Copilot devices

目玉として紹介されたのは、Windows 365 Linkというシンクラ用デバイスのようなもので、これを利用することでセキュリティとパフォーマンスを両立させたオフィス環境を作っていけるというものでした。またWindowsに関するアップデートもあり、ダウンタイム無しでのパッチ適用など、情シスで端末管理を行う方にとっては嬉しい機能なのかなと思いました。普段端末管理などはしていないのですが、少し想像するだけでも情シスの方の苦労は想像できるので、これらがうまくハマると利用者の利便性と管理者の負担軽減につながるのではないかと素人ながらに感じました。

Copilot & AI Stack

主には開発者を中心として、より高度でカスタマイズされたエージェント開発の基盤として、Azure AI Stackが紹介されました。さらにその中でも、Developer tools & app services, Azure AI Foundry, Data Infrastructureの4レイヤーで整理がされており、それぞれのレイヤーにおいて新機能やサービスが紹介されました。その中でも特に今回のIgniteのキーになるのは、Azure AI Foundryというプラットフォームかと思います。これまでのAI Studioの拡張のような位置づけですが、一つひとつの機能アップデートに加えて、SDK提供などがあり、より開発者目線でも利用しやすくなったプラットフォームなのかなという印象です。ハンズオンでも触れる機会があったので、後述しますが、かなり使いやすくなっていると感じました。

また、もっと低レイヤーでも地道なアップデートはあり、DPUなどの新しいチップが発表されたり、自社DCやエッジにも対応したAzure Localも発表されました。さらにこれらをAzureの世界で管理していくためのAzure Arcというサービスも紹介され、Azureの世界がどんどん広がっていくなと感じました。各社同様のサービスは提供されていますが、例えば対面接客カウンターや飲食店内のエッジデバイス上で動く軽量LLMなどで、ローカルに閉じることで今までにはないサービスを提供できたりしないのかなという妄想が膨らみました。

その他日本からはTOYOTAさんの名前も上がったりいろいろな事例紹介もありましたが、大きなテーマはやはり「Agentic World」であり、「私たちの使命は、地球上のすべての人々と組織が達成できるように支援することである。AIを活用してそれらが出来るように、多くの人がAIを学ぶことができるようなプログラムを用意しています」といった内容で、AIを学ぶことで生活が変わった人々の事例紹介とともにナデラCEOのキーノートは終わりました。

気になったセッション

Inside Azure innovations with Mark Russinovich

AzureのCTOを務められているMark Russinovichさんによるセッションです。Azureの個別機能紹介ではなく、Azureを支えるインフラ・ソフトウェア基盤の進化について紹介されました。主なトピックは以下の通りです。

• 基盤の進化: AzureBoostなどの独自ハードウェアによる低レイヤーでの性能向上
• Cloud Native化: コンテナ・仮想化技術の進化により、ピーキーなワークロードにも対応可能な高速スケーラビリティの達成
• Azure Incubation: Cloud Native界隈へのコントリビュート
• セキュリティ向上: Azure Integrated HSMなどを用いたハードウェアレベルでのセキュリティ強化
• データマネジメント: Azureサービスを用いたデータマネジメントレイヤーでのセキュリティ向上

普段クラウドを利用してシステム開発を行う際、機能面のアップデートに注目しがちですが、それらを支えるインフラやソフトウェア基盤の進化も重要であることを改めて感じました。また、自社に閉じるのかOSSとして貢献するのかという戦略も重要ですが、利用者としては各社の技術や取り組みがうまく組み合わさることで、クラウド業界全体が盛り上がり、より良いサービスが提供されることを期待しています。

セッション動画

• https://youtu.be/NMNZE22nSQI?si=y-KlBYKJrnGSfI-T

Revolutionizing customer experience with Azure TTS Avatar and OpenAI

Azure TTS Avatarというサービスを利用した接客AIソリューションの紹介セッションです。Keynoteで語られたAgentic Worldを体現するようなデモが面白かったので印象に残りました。こちらはアバター相手に顧客が口頭でコーヒーを注文するというユースケースを想定したもので、以下のコンポーネントを繋ぎ合わせることで実現しているようです。

• LLM : Azure OpenAI
• Agent Control : LangChain
• Speech-to-Text : Azure speech recognition
• Text-to-Speech : Azure text to speech avatar

アバターと顧客のやり取りから得られた情報はLangChain Agentを介して逐一バックエンドDBに保存・更新されます。このため、例えば最初に顧客がコーヒーを注文し、アバターと他愛のない雑談をした後にコーヒーの注文はどうなっているかを問うと、アバターが状況を確認し「出来上がりました！」応答してくれるような顧客体験を実現しています。

Azure text to speech avatarは発話内容に応じてリップシンクしたビデオを生成してくれるサービスで、ちょっとしたアバターを手軽に作れるのが好印象でした。UIとしてアバターが必要か？という論点はあると思いますが、いずれにせよ近未来っぽさを感じることができて面白かったです。現時点ではモーダルごとに各種コンポーネントを用意し、それらを繋ぎ合わせることで全体を構成していますが、近い将来にはマルチモーダルモデルを用いてEnd-to-Endでタスクを実行するようなアーキテクチャが実現可能になりそうだと感じました。

セッション動画

• https://www.youtube.com/watch?v=oBgOCv0wui8

PRE-DAY Lab (hands-on)

Ignite初日を前に、PRE-DAY Lab(ハンズオンワークショップ)に参加しました。参加したLabのタイトルは「Unlocking NLP potential: Fine-tuning with Microsoft Olive」で、LLMのファインチューニングに焦点を当てた内容でした。会場にはSurfaceがずらっと並んでおり、私自身としてはテックカンファレンスでハンズオンを受けるのが初めてでちょっと緊張しました。

Labについて

テーマ

今回のハンズオンでは、旅行代理店エージェントBotをユースケースとしたテキスト生成モデルの開発に取り組みました。

Labの意図

本Labの目的は主に以下の２つでした。

• Closed LLMとOpen SLM(Small Language Model)の両者についてのポジショニングを理解すること
• 新プロダクトであるAzure AI FoundryとMicrosoft Oliveについて全体的な理解を深めること

Labでやったこと

• GPT-3.5のファインチューニングを実施
  • GPT-4oで出力した結果をInstruction dataとして利用し、知識蒸留を行う
  • 学習作業はAzure AI FoundryのGUI上で実行
• MicrosoftのOpen SLMであるPhi-3.5-mini-instをファインチューニング
  • モデルの量子化、Supervised Fine-Tuning、CPU推論のためのモデルグラフ最適化を実施
  • 学習はNVIDIA A100 80GB搭載のインスタンスで行われました（非常に贅沢な環境でした）

Azureのプロダクト紹介

Azure AI Foundry

Azure AI StudioがAzure AI Foundryに名称変更され、LLM Opsのマネージドサービスとして機能統合が進みました。 これにより、モデル選択、ファインチューニング、モデル評価、モデルデプロイなどを一気通貫でサポートするプラットフォームとなりました。別立てのサービスとして存在したAzure OpenAI Serviceも統合され、MaaS（Model as a Service）からより視野を広げたAI開発プラットフォームへの進化が見られます。

Microsoft Olive

Microsoft Oliveは「O(NNX) Live」と称され、ONNX Runtimeで動作するためのモデルを最適化するツールキットです。主に、ファインチューニング（例：QLoRA、LoRA）、モデル量子化（例：GPTQ、AWQ）、ハードウェアごとのモデルグラフ最適化（CPU、GPU、NPUなど）をサポートします。私は初めて聞くフレームワークでした。

感想

AI関連プロダクトについて

Azure AI Foundryは、モデル選択、チューニング、モデル評価、デプロイメントまでを統合したプラットフォームとして、AWS BedrockやGCP Vertex AIと同じような立ち位置にあります。特に、Azureはモデル評価の面で進んでいる印象を受けました。

また、MicrosoftはOLIVEやPhiを活用してon-deviceでモデルを動かすことについて前向きに取り組んでいる印象を受けました。これは用途に応じてモデルサイズや推論環境を使い分けるような世界観を前提としているのだと思います。例えば、タスクが容易で高速な推論が求められる場合はローカルPCでの推論、逆にタスクが難しく低速な推論が必要な場合はAzure AI FoundryでAPI推論を行うといった使い分けが考えられます。また、より定型化したタスクについてはAzure Copilot Studioを介してOffice製品から直接エージェントを呼び出すなど、用途に応じて多様な使い方ができるようになると感じました。

ハンズオンへの参加について

海外イベントでのハンズオンはかなり緊張しましたが、終わってみると新鮮で楽しい体験でした。途中で詰まった際、講師に質問すると丁寧に教えていただけました。意外にも他の参加者も同様に詰まっており「Help!!」「Follow!!」の声があちこちから上がっていました。最新のプロダクトにその場で触れ、プロダクト担当者に直接質問できる貴重な機会だと思いました(モデル評価の組み込み機能が日本語でもワークするのか尋ねたところ、問題なく機能するとの回答を得られました)。皆さんも機会があればぜひトライしてみてください。

ご紹介したPRE-DAY Labの資料はこちらから閲覧できます↓
https://github.com/Azure/Ignite_FineTuning_workshop/tree/main/session-delivery-resources

終わりに

Microsoft Igniteに参加して、特に印象的だったのは、AIの進化とそれに基づく新しい働き方の提案が一貫して強調されていたことです。サティア・ナデラCEOが掲げた「Agentic World」というテーマは、AIが私たちの生活や仕事のスタイルを根本的に変える可能性を秘めていることを示唆しており、その実現に向けた具体的なプラットフォームやツールが提示されたことに大きな期待を抱きました。

特に、CopilotやAzure AI Foundryなどの新しいサービスは、システム管理者だけでなく、開発者や一般ユーザーにも大きな影響を与えるもので、AIを用いた業務の効率化と生産性向上の可能性を感じました。ハンズオンセッションでは、実際に手を動かしながら最新の技術に触れることで、これらのツールがどれほど使いやすく、そして実際のビジネスにどのように応用できるかを実感しました。

また、セキュリティが全てのレイヤーにおいて重要視されている点も特筆すべきことです。AIが進化する中でセキュリティへの配慮が欠かせないことを理解し、安心して新しい技術を導入できる環境が整いつつあると感じました。

一方で、AI技術の進展には倫理的な側面やプライバシーの問題も伴うため、今後の展開には注意が必要だと感じました。Microsoftがこの課題にどう取り組んでいくのか、引き続き注視していきたいと思います。