（こちらのコラムは、2023年12月分のメールマガジンを一部編集して掲載したものです）

————————————————
【目次】
1. AI/AGIによる前例なき「拡張」の到来
2.自殺対策とAI
3.OVAの活動とAI
　デジタルアウトリーチ
　インターネット相談活動
　ソーシャルアクション
4. AI活用で個人の悩みを社会化できるか
　アドボカシーにAIは活用できるか？
　おしゃべりから政策を自動生成、社会シュミレーションで試行
5.おわりに（意見等募集）
6.注釈・参考文献
————————————————

1. AI/AGIによる前例なき「拡張」の到来

代表の伊藤です。AIはこのところ異様なほどのスピードで発展しています。「生成AI」は今年の流行語にもなりました。一方で、まだピンと来ない人も多いのではないでしょうか。

もしかしたら「ネットサーフィンでAIっぽい画像を見るようになった」とか、「AIタレントを使ったお～いお茶のCMを見た(※1)」ことくらいしか、日常生活においてはAIになじみがない人も多いのかもしれません。国内における「ChatGPT」の利用率も10%程度のようです。

一方で、昨今のAI関連企業の過激なマーケティング（演出？）を差し引いても(※2)、今回ばかりは「ブーム」では終わりそうにないようです。根本的な社会変革が起こる歴史の画期であり（※3）「21世紀はおそらく人類にとって極めて重要な世紀であり、今後数千年にわたる私たちの運命が決定される世紀」（※4）と個人的には受け止めています。

以下、AI/AGIの関連話題をひとつずつ取り上げると長くなるため注釈を適宜利用します（※5~9）。個人的には、自然言語（言葉）でAIを使えるようになったことが大きく感じます。エンジニアでもない私でもWord／Excel感覚で使うことができます。特にここ2か月ほどのアップデートは凄まじく、今まで能力的にできなかった歌、詩、ゲームをつくり、BOTを作り、データ分析もでき、働き方も変わりました。

文字だけでなく音声会話でよくAIとディスカッションをしたり、相談もするようになっています。AIが民主化しつつあり、今までの道具にないほどの個の「拡張」を感じます。逆に言えば、ひとりの個人でできることが大きくなりすぎているとも言えます。

2.自殺対策とAI

自殺対策という観点では、AIの発展によって起こる社会変化に、強く影響を受ける・適応が難しくなる層の支援を考えることになりそうです。

加えて、それとは別に重大な問題が引き起こされる可能性についても考えなければなりません。AIのリスク、特に人間の「実存的リスク」については古くから指摘がなされていますが（※10）、今年に入って多くの機関・国・有識者が警告し、AI規制について多くの議論がなされています。最近では12月12日にEUが36時間ぶっ続けで議論し、AI規制法案について大筋合意し（※11）、日本でも12月14日に「AI 安全研究所を早急に創設すべき」と自民党が提言していました（※12）。

人間の死因のうち、「言葉」によって誘発される死は自殺のみです。ここでは詳細はあえて割愛しますが、AIを活用した犯罪行為を懸念しています。問題はAIによって今までにないほど個の能力が拡張したことで、個人や集団の犯罪行為などの規模が今までよりもはるかに大きくなりうることです。この点については解像度を高くしてから関係者に共有していきます。

3.OVAの活動とAI

デジタルアウトリーチ

OVAで行っているデジタルアウトリーチとは困っている人へのアプローチですが、やっていることは主にネット広告の運用です。すでにGoogleの検索連動広告はAIが搭載されており、ユーザーの膨大な過去データから、いつ／誰に広告を表示すると成果（コンバージョン）が出やすいかが判断されます。

今後、音声アシスタントの技術によって、「AIに話して検索してもらう」ことも多くなりそうですが、アドテクノロジーの進化と共にデジタルアウトリーチも合わせていけばいいと考えています。

そもそも、デジタルアウトリーチのAI利用は団体設立前（10年前）に書いたビジョンと航海図でも想定しています（※13）。アドテクノロジーが進化していくと思われますが、伴ってデジタルアウトリーチ（特定の課題を抱えている人に支援を届ける）を開発することで、リーチの精度があがり、今よりも社会資源マッチングが適切に行える可能性があります。

インターネット相談活動

テキスト生成はAIの得意分野でもあり、影響を受ける領域です。ただし、OVAの場合は対象が「自殺願望」がある人です。「自殺願望がある人へAIで全自動対応」は関係者（自殺対策関係者、AI提供側）から許容されないと思いますので既存プレイヤーが逆に取り組みにくい状況があります。

人間だけが出来てAIに出来ないことに「責任を負う」ことがあります。「全自動」で膨大な「自殺願望がある人」を対象に相談事業を実施する起業家には、リスクだけ膨大にあり、メリットはほぼないため、せめて「善きサマリア人の法」（※14）が必要だと考えます。

ただ人間が随時モニタリングしながら、AIがチャット初期対応して情報を提供する（つなぐ）場面で人間にエスカレーションしたりなどは今後十分にありえると思います。

OVAの場合、メール相談が中心です。メールをファイルに自動格納して、AIが自動的にアセスメント・リスクを評価をして、メールの下書きをつくることはできそうです。精度の検証は全くしていませんが、仮想的にシュミレーションしたところ、技術的にはできそうです。

メールが来た時点で見立てや下書きがなされるというのは実施側からすると大きなインパクトです。ただ、OVAの場合、行政から委託を受けている事業なので、実際には調整が必要で、現状は相談事業でAIを全く「使えない」状況です。OVA社内でAIを使っているのはそれ以外の場面です。

OVAではAIによる相談についてのニーズ調査を実施している最中です。抑うつ傾向が高い人を対象に調査していますが、人間に対する相談とAIに対する相談、すでに同程度のニーズがあると言える結果になりそうです。

私自身、Chatgpt-4（無学習）に対しての文字または音声で「相談」をしていますが、驚くほど受容的で、具体的な助言をもらえます。音声によるパーソナルAIが人々に普及すれば、まず好みにカスタマイズ（例：声質）したAIに、気持ち面も含めて相談するのは当たり前になると思います（※15）。

ソーシャルアクション・その他

ChatGPTでは簡単にBOTが作れます。WHOの自殺報道のガイドラインを参照させるBOTを作ると、記事のURLやPDFを読み込み、校正したり助言してくれます。参照すべきガイドラインやマニュアルがある場合には、AIを活用するのに向いています。相談機関をナビゲーションするBOTも作り、相談したところ適切にナビをしてくれますが、間違える可能性があります。

AIはデジタル脳のようなものですから、システムとは異なり、人間と同様に間違えます。そのため間違いが許されない領域には向かないので、切羽詰まった人にやらない方がよい事も多くありますし、一つのミスも許されない行政は市民向けサービスに導入しづらい場面もあると思います（※16）。

政策提言やソーシャルアクションには大いに活用の余地があると思います。

こちらは私が試行的に作った、「あなたの「悩み」から新法の原案を作成するBOT」です。個人的な悩みを入れると、問題を特定（社会化）して列挙し、それを乗り越えるための手段が現行法上にあるかどうかをチェックして列挙します。その上で、「あなた」の悩みから新しい法律をつくるというものです。有料でChatGPTを契約している人に限りますが、以下のリンクから試せますのでぜひお試しください。

■「あなたの「悩み」から新法の原案を作成するBOT」
（追記2024/03：閉鎖しました）

個人の悩みを聞く立場として、個人の問題を社会化していくことは、NPOやソーシャルワーカーの重要な役割だと考えています。前述した通り、今は相談事業でAIが利用できないのですが、仮想的にシュミレーションしたところ、AIが相談内容から地域課題を抽出することはできました。

速さはもちろんですが、出してくる「数」でも人間の私よりは多く対応できます。出力されたものを見て思わず驚き、関心してしまいました。個人情報を抜いた相談内容を文字以外で表現すること、例えば、画像にしたり、音楽にしたりすることもできます(※17)。

4.個人の悩みをAIで社会化する（カナリアプロジェクト構想）

アドボカシーにAIは活用できるか？

アドボカシーという言葉を聞いたことがあるでしょうか。数年前には「子どもアドボカシー」という言葉が一部の領域ではよく聞かれました。

ソーシャルワーカーの中では「代弁」や「権利擁護」と言われます。人の「代弁」なんかできるわけないじゃんと思うかもしれませんが、福祉の分野では重度の精神障害がある方や高齢者の方、子どもなど、自分の権利を自ら声をあげにくい状況に置かれている、社会的に不利な状況にある人も実際多くいますので、話をきいたソーシャルワーカー・NPOなどの他者が「拡声器」になった方がよい時もあります（例えば認知症の方々が自ら声をあげて社会や政治に働きかけることは少し不利なように思われますので、それを手伝う人が必要です）。

OVAでは、メールやチャット（LINE）で「相談」が来ます。相談とは悩み事を抱えた「個人」が行うものです。しかし、私たちが抱える問題や生きづらさとは、必ずしも個人の問題に還元しきれません。

OVAが出会う人たちは、沢山の階段を転げ落ちてきたような人です。つまずく段差は<私>にあるのではなく、<社会>にあります。もちろん段差があっても転げ落ちる人も、そうでない人もいるので、転ばなかった人からすると「努力が足らないのでは？<私>は転ばなかったし」と考えがちです。社会システムのダイナミクスを分析し、変更しようと試みるよりも、「あいつが悪い（自己責任）」の方がはるかに容易なためです。

転ばないための努力を個人に求める前に、なぜそんなに多くの段差がこの社会に存在するのか、それを減らすために社会全体で何ができるかを考える必要があると思います（それが人間が社会を構成する意味ではなかったでしょうか）。

NPOやソーシャルワーカーは、個人の相談を受けながらも、地域・社会課題を社会に伝え、政治に制度の穴（行き届かなさ）を伝えるのも重要な役割だと考えます。

まだ社会問題化していないことは、世に知らしめる必要（イシュー化）があります。昨今では男性の性被害が話題になっていますが、一部の男性は自分が今まで性被害を受けていたことが「あった」のを自覚したと思います。

援助要請行動（SOS）は対処すべき問題だと本人が認知できなければ起こりません。安心して助けてが言える社会、受け止められる社会をつくるためにも、社会化されていない問題は、社会に知らしめる必要があります。

一方で、現場は目の前にいる人をサポートすることに精一杯というのも本音です。そこで、AIなどを活用することもできると考えます。個人の相談内容から社会課題をAIに抽出してもらい、その社会課題を乗り越えるための、政策や新規事業などのアイデアまで出してもらうこともできます。

OVAだけでなく、相談事業を行っているNPOでコンソーシアムを作って、さらに大きな「声なき声」を集めることもできるでしょう。もともと人間の手作業でやろうと思っていたのですが、AIで試行したらパワフルにできることがわかったため、利活用していこうと思っています。

まとまった資料をもとに、行政や議員、NPOなど地域の人々が集まり、タウンミーティングを開き、市民にできること・行政にできること・政治にできることを話し合う。そういう取り組みができないかと構想しているところです。ポイントはOVAが全てのソーシャルアクションを単体で行わず、社会参加を促す役割を担うことです。

AI時代は人間がAIに多くを勝てなくなってきますから、多くの人が喪失感を感じる可能性があります。今後、人とのつながりを感じること、社会に参加している、誰かの役に立っているという充足感が、より大切になってくると想像します。OVAでは出来ていないことですが、ボランティア活動などを行っているNPOの役割も大きくなるでしょう。

このプロジェクトを「カナリアプロジェクト」と暫定的にネーミングしているのですが、こういった類似した取り組みを知っていたり、この構想に意見がある方は伊藤までぜひご連絡ください。

私はソーシャルワーカーですが、AI時代のソーシャルワーカーはサイエンティストであり、吟遊詩人のようにもなっている気がします。

AIが行うことは一旦<Aさん>を<Aさんのようなもの（データ）>に変換します。AIは人々の声をデータとして処理し、分析しますが、ソーシャルワーカーはそのデータに個人の物語・文脈を吹き込みます。

おしゃべりから政策を自動生成、社会シュミレーションで試行

もはや、NPOが受ける相談だけが地域・社会課題を抽出できるわけではありません。「保育園落ちた日本〇ね!!!」の匿名ブログ（2016）は、国会でも取り上げられ、「待機児童問題」は誰もが知ることとなりました。

このように公開されているブログやSNSのような投稿をAIに分析させる方法はすでに技術的にはできますし、自発的に「政策提言はできないけど、困りごとを反映してほしい・・・」という人のためにアプリを作って、国民の声を技術的には収拾することもできるでしょう。

極端な話を言えば、プラグインを開発し導入した人はAIと「おしゃべり」しているだけで、自分の困りごとから、AIが地域課題の抽出し、地域ごとに集計・分析し、地域の予算や問題の大きさなど、政策順位を分析し、AIが政治家に提言することもできるのかもしれません。政治家はAIエージェントで構成された仮想世界（社会シュミレーション）上に政策を反映し、導入前に人々や社会の反応を見るかもしれません。

突飛な話のように聞こえるかもしれませんが、すでに類似した取り組みがあります（※18~21）。AIを活用した社会シュミレーションの発展があれば、研究・経営・政策などの意思決定にも利用されていくように思います。

おわりに（意見等募集）

OVAでは、Azureを中心にChatGPTも使っています。AzureのAPIやAI倫理などに詳しい方がいたら助けてほしいことが今後生じそうですので、連絡をいただけると嬉しいです（もちろんお願いすることに応じて謝金などはお支払いいたしますので、個々に相談させてください）。

また、困っている人へのアプローチを行う事業におけるAIの利活用、「カナリアプロジェクト」についてご意見・ご感想がある方は、（メルマガ用になりますが）下記のフォームからお願いいたします。

https://forms.gle/BNbhXTpL1gEx8vbb7

※このコラムは2023年12月17日に執筆しました。

————————————————
6.注釈・参考文献

1. AI/AGIによる前例なき「拡張」の到来

（※1）2023年9月4日の伊藤園『お～いお茶 カテキン緑茶』のリニューアル発売に、日本初TV CMにAIタレント起用
https://youtu.be/DEoG1NCdmdY?feature=shared&t=7

（※2）2023年12月6日Googleが発表したマルチモーダルAI「Gemini」の出も映像は魔法のようで多くの人を驚かしたが、その後、実動作ではないことがわかり、批判されている。

gigazine「マルチモーダルAI「Gemini」の性能をアピールするGoogleの公式ムービーはフェイクだったという指摘」
https://gigazine.net/news/20231208-google-gemini-movie-fake/

(※3)2023 年6月8日 政府のAI戦略会議（座長は松尾豊教授）は”生成AIの登場は、内燃機関の発明・IT革命と同じく、幅広く生活の 質を向上させる「歴史の画期」となる可能性”とした。
内閣府「AI に関する暫定的な論点整理 （要旨）」
https://www8.cao.go.jp/cstp/ai/ronten_youshi.pdf

（※4）2023年11月27日　イーサリアムの創始者であるヴィタリック・ブテリンは昨今の効果的な加速主義（e/acc)と効果的な利他主義（EA）の対立について、第三のアプローチとして「防衛的、分散的、民主的なテクノロジー加速主義(d/acc)」の考えを提出し「21世紀はおそらく人類にとって極めて重要な世紀であり、今後数千年にわたる私たちの運命が決定される世紀」と述べた。
「My techno-optimism」Vitalik Buterin
https://vitalik.eth.limo/general/2023/11/27/techno_optimism.html?fbclid=IwAR10pFnC6qG66EiE6J3j4__iOg5xJEonMfCP8sI4hQexT_OwkS5qZAa6aSk

（※5）AGIの定義は人によって様々異なっているが、Artificial General Intelligence（汎用人工知能）の頭文字となる。国内では「超知能」「超AI」とかそう呼ばれ方をするかもしれないが、今のところ定かではない。

（※6）2023年12月14日にOpenAIはSuperalignment Fast Grantsを開始。「スーパーインテリジェンス（超人的AI）が今後 10 年以内に登場する可能性があると信じている」として、Google元会長のエリック・シュミットと連携した安全性を確保するための技術研究に関する協働助成プログラムを発表した。OpenAIはAGIの開発を目指しており、ここで言っているSuperalignmentはAGIではなくそれ以上のものと考えられる。
OpenAI「Superalignment Fast Grants」
https://openai.com/blog/superalignment-fast-grants

（※7）英ARMを保有するソフトバンクグループの孫正義会長は2023年7月に東京大学で開催された「生成AI」のシンポジウムで、「AIは平均的な人間の100万倍、1兆倍と圧倒的に賢くなる」「汎用人工知能＝AGIは10年以内にやってくる」と発言。2023年10月には改めて「AGIが10年以内、人類叡智総和の1万倍であるASIには20年以内にやってくる」とした。
「SoftBank World 2023 孫 正義 特別講演 AGIを中心とした新たな世界へ」
https://youtu.be/CC1aVkPsdbI?feature=shared

（※8）同日、その後に登壇した宮川社長は、過去に話題になった「シンギュラリティ（人智超越）」を取り上げ、GPUの登場によりムーアの法則は早まり、シンギュラリティは2045年ではなく2025年に達するとした。
「SoftBank World 2023 宮川 潤一 基調講演 AI共存社会に向けて」
https://youtu.be/CC1aVkPsdbI?feature=shared

（※9）2023 年 9月11 日に「サピエンス全史」で著名な人類学者はユヴァル・ノア・ハラリはGoogle DeepMind 創設者であるムスタファ・シュリーマンと共にエコノミストのインタビューを受けた。ムスタファが「5 年以内に、これらのタスクの大部分を”自律的に実行”できる人工知能である AI が登場する可能性が非常に高い」と発言したところ「これは人類の歴史の終わりです。歴史の終わりではなく、人間が支配した歴史の終わりです。」と発言した。
「Mustafa Suleyman & Yuval Noah Harari -FULL DEBATE- What does the AI revolution mean for our future?」
https://youtu.be/7JkPWHr7sTY?feature=shared

2. AIと自殺対策

（※10）Bostrom, N. (2002). Existential risks: Analyzing human extinction scenarios and related hazards. Journal of Evolution and technology, 9.

（※11）NHK（20231209） EU AI利用などの規制法案 大筋合意 委員長“世界で初めて”
https://www3.nhk.or.jp/news/html/20231209/k10014283091000.html

(※12)自民党AIの進化と実装に関するプロジェクトチーム（20231214） 自由民主党デジタル社会推進本部「AI の安全性確保と活用促進に関する緊急提言」
https://note.com/masanao_ozaki/n/nbd4dd013a5cb

（※13）OVAのビジョンと航海図（2013 伊藤作成）
https://docs.google.com/presentation/d/1ZJmgh7rwUZEdtTuXxJYSCKXUi0NNFf_gOqEw1LVh-yY/edit?usp=sharing

（※14）　善きサマリア人の法は「災難に遭ったり急病になったりした人などを救うために無償で善意の行動をとった場合、良識的かつ誠実にその人ができることをしたのなら、失敗してもその結果の責任は問われない」法律。
三島康典(2016)善きサマリア人の法（Good Samaritan law）
https://www.med.or.jp/nichiionline/article/004522.html

（※15）時の人（敬意をこめて人類にとって最重要人物の一人）となった技術者イリア・スーツキヴァー（OpenAI）は2023年9月27日に「将来、私たちのモデルの堅牢性が一定のしきい値を超えれば、*非常に効果的*で非常に安価な AI 療法が得られるでしょう。人々の生活体験の根本的な改善につながります。私が最も楽しみにしているアプリケーションの 1 つです。」と投稿。それに対してイーロン・マスクは「だよね」と返答。AIアライメントの第一人者エリーザー・ユドコウスキーは「実際に改善するユーザーはリピーターではありません。Facebookはユーザーのメンタルヘルスを最適化することができますが、していません。法的責任がOpenAIやAnthropicをこのビジネスから遠ざけると主に予測します。または、リセラーの調整を試みることからも、尻込みするかもしれません。では、誰がその役割を担うのでしょうか？」と投稿した。
https://twitter.com/ilyasut/status/1707027536150929689

(※16）行政・NPOや企業等などがAIを活用したサービスを提供する時、ユーザーに不可逆的な変化が起こる場合慎重になる必要があると思います。そうでなくてもAIが間違えたとき（そしてそれは起こる）のクレームへの対応やそれにかかるコストも検討しなければ、効率化の目的が達成されないこともあると思います。

2023年10月23日三豊市は6月から東京大学大学院工学系研究科松尾研究室と協力して、ChatGPTを用いた市民向けの「ゴミ出し案内」の実証実験を中止する旨のプレスリリースを出した。
三豊市「チャットGPTを利用したごみ出し案内」本格導入について
https://www.city.mitoyo.lg.jp/kakuka/shiminkankyou/eisei/2/chatGPT/index.html
ChatGPTでの業務効率化を“断念”──正答率94％でも「ごみ出し案内」をAIに託せなかったワケ 三豊市と松尾研の半年間
https://www.itmedia.co.jp/news/articles/2312/15/news158.html

(※17）Suno AIを用いて10代の困難さと乗り越えることをテーマにした曲を生成。歌詞も含めて全て自動で作成。伊藤は「テーマ」と「曲調」だけを入れた。ここまで平易であると、人に自分が作った曲をプレゼントするのは当たり前に。悩みをいれると「あなたの悩みを受け止め、励ます曲を贈ります」などの取り組みがあってもよいかもしれない・・。
https://youtube.com/shorts/6txtYccEg5s

（※18）スタンフォードとGoogleの研究者が発表した「Generative agents」では25人のAIエージェントを町に住まわせ、初期記憶（「自分は薬剤師」等）から自律的に会話・行動をする。 Park, J. S., O’Brien, J., Cai, C. J., Morris, M. R., Liang, P., & Bernstein, M. S. (2023, October). Generative agents: Interactive simulacra of human behavior. In Proceedings of the 36th Annual ACM Symposium on User Interface Software and Technology (pp. 1-22).

（※19）AIエージェントが経営するソフトウェア開発会社である「ChatDev」 Qian, C., Cong, X., Yang, C., Chen, W., Su, Y., Xu, J., … & Sun, M. (2023). Communicative agents for software development. arXiv preprint arXiv:2307.07924.

（※20）前述の仮想会社ChatDevにゲーム開発を依頼している日本人の方のXでの投稿。 出来たのは「クソゲー」だったようで、動画を投稿をしています・・。
https://twitter.com/karaage0703/status/1697795565780967879

（※21）AI自動会話マッチング AvaTieは、自身のテキストを学習した分身AI同士で事前に話し合わせることで恋人とのマッチ度をより高めようという取り組みがあります。 AI自動会話マッチング AvaTieを開発する代表者の方の投稿
https://twitter.com/lovic_kawabata/status/1732731604005724205

(※22)アクセンチュアは2023年11月2日「デジタルツインエンタープライズ」などの構想を発表。企業でのマーケティング活動等のシュミレーション、アクセンチュアはAIを用いてデジタルツインでシュミレーションする仕組みを構想して顧客に提供しようとしているようです。
「現在はまだ“生成AIの始まり”にすぎない ― アクセンチュア」
https://ascii.jp/elem/000/004/167/4167243/

その他参考文献

西見 公宏（2023）「その仕事、AIエージェントがやっておきました。 ――ChatGPTの次に来る自律型AI革命」

東浩紀（2022）ゲンロン13 訂正可能性の哲学2、あるいは新しい一般意志について（部分）｜東浩紀

みずほ産業調査 Vol.74【革新的技術シリーズ】（2023） 生成AIの動向と産業影響～生成AIは産業をどのように変えるか～
https://www.mizuhobank.co.jp/corporate/bizinfo/industry/sangyou/m1074.html

堀 正嗣（2020） 子どもの心の声を聴く――子どもアドボカシー入門