Microsoft主催ハッカソン

きっかけ

しばらくハッカソンから離れていた時期だった。

ドーパミンがだんだん足りなくなって、会社生活が退屈だった。

ハッカソンに少し興味を持っていたせいか、インスタのアルゴリズムが世の中のハッカソンを全部見せてくるようになった。

なんと Microsoft が主催するハッカソンで、しかも生成AI系だった！

前にグルムトーンに行った時、自分だけ行って悔しがっていた職場の同僚にすぐフラーティングした。

土曜がハッカソン開始なのに、その金曜に申し込むことになった。

テーマは 公共部門イノベーション で、その日に職場の同僚が最高のアイデアを出してくれて

金曜の深夜まで具体化しながらハッカソン準備を進めた。

ハッカソン教育

景福宮の隣にあるMicrosoft本社に到着！

ビューが最高すぎて、すぐ写真をお願いした。

最近のAI系ハッカソンは、まず使い方の簡単な教育から始まる。

Microsoft らしく Azure でOpenAIを使う方法をA-Zまで教えてくれた。

でも時価総額1位とは思えないくらいトークン制限が厳しくて、トークンが切れて教育を進められない人もいた。

チームビルディング

時間が流れてチームビルディングが始まった。ほとんどは開発者だったが全員ではなかった。

自己紹介をしながら知ったけど、女性家族部の部長さんから各公共機関の要職の人までいた。

自分の業務タスクを自動化したり、AIを学ぶために来た人も結構いた。

でも チームビルディングは冷たい。Microsoft側も想定していなかったわけではないと思うが

開発者は開発者を探すので、非開発者の人は最後までチームが決まらないこともあった。

置いてけぼりになるケースがあって心が痛かったが、こっちも欲があった。

実は私たち二人とも Langchain を使って簡単なサービスを作った経験があったので、いざとなったら二人だけで組もうかと思っていた。

でもメンバーは多い方がいいので、良さそうな人に先に声をかけてチームを提案した。

幸いにもアイデアを気に入ってくれて、実務でAIを扱っている方がチームに合流してくれた。

ハッカソン開始

絶対に自分たちのアイデアでやるつもりではなかったが、最初に持ってきたアイデアが一番新鮮で良いと思った。

そこでチーム名を 악성민원 수호자 に決めて、まずはどうするか考えて作業に入った。

アイデアは「국민신문고（Sinmungo）や各省庁に苦情を出すとき、悪性苦情と判断されたらフィルタリングして穏やかに言い換えるサービス」と簡単に言える。

こういうことが可能なのは、モデル自体の認知能力がかなり上がったからだと思う。

本当は1次目標として Langchain.js で自分でロジックを書いてプロジェクトをやりたかったが、AI開発者がPythonで全部できると言うのでフロントに力を入れることにした。

残りはAI開発者のロジックを一緒にレビューする方向で進めた。ところがAI開発者はWeb開発経験がなく、APIサービスも FAST API で急いで立ち上げた。

デプロイが必須ではなかったのは助かった。

韓国語特化モデルが見つからず、人が聞いて嫌な気分になる悪口のデータセットは圧倒的に不足していた。

そこでAI開発者が考えたのが Jail Breaking という手法で、GPT-3.5はこの手法でプロンプトを使いOpenAI側の制限を超えて

罵倒語を使って必要なシナリオのダミーデータを大量に作れた。これをもとに上位モデルのGPT-4.0でデータセットを作り

再びGPT-3.5をファインチューニングして性能を上げようとした。最後は会社の同僚のSupabaseスーパーキャリーで仮のDBをさっと作って

想定していたMVPを作れた。

デモ

発表がほぼ23時くらいだったと思う。耐えるのがきつくて他の人の発表に集中できず、結局寝落ちしてしまった。

そして自分たちの順番が来て、分担して発表した。

上手いチームも多くて緊張したが、審査員の反応が思ったより良くて内心期待していた。

運よく本選に進む4チームに入ることができた。

ハッカソンと言いつつ一晩で終わらず、1週間後の本選で公務員関係者の前で発表するのが本当の締めだった。はは..

1週間の間に一晩で作ったMVPをもっと発展させるか迷ったが、結局やらなかった。

一つだけ試したのは、KISOが提供する 罵倒語データセット を学習させて大きな性能向上を狙うことだった。

でも…

なので発表とストーリーテリングにもっと力を入れて、発表準備をめちゃくちゃ頑張った。

本選と感想

本選は 政府世宗コンベンションセンター で行われ、会社の有休を取って行った。

着いてすぐ待っていたのは、なぜか自分たちの写真… 笑

一晩で作ったMVPを 公務員約400人 の前で発表して投票を受ける形式だったので

スケールに圧倒された… 笑;

他の3チームの発表を見てヒヤッとした。

みんなMVPを本当に大きく進化させて持ってきていた。

マルチモーダル から… あるチームは カスタム ChatGPT を作ってきていてヒヤッとした。

でも私たちの発表は公務員の感情に刺さったのか、ありがたいことに2位だった。

受賞できたのも嬉しかったが、他のハッカソンと違って審査員がすべてを決めるわけではなく、 実際の潜在ユーザー（約400人）からその場で投票を受けて進む方式で、公共部門に本当に 役立ちそうだと認められて胸が熱くなる経験…をした。

悪性苦情で苦しんでいる公務員の方々、たとえ私たちのサービスでなくても.. どんな形でも改善されて、苦しまない環境で働けるようになってほしい！