aiCalmaiCalm

不安にAIを使うのは安全ですか?ウェルビーイングのアプリとAI「セラピー」を見分ける7つのサイン

チーム: aiCalmAI の支援を受けて執筆19 分で読めます

要約

  • 2026年8月2日から、EU AI規則の第50条により、すべてのチャットボットは自分が機械であることを明示する義務を負い、違反には最大1,500万ユーロまたは全世界売上高の3%の制裁金が科されます。透明性義務の発効について、2026年8月4日に報じられました。
  • 米国では、すでに4つの州がAIによるセラピーを直接禁止しており(イリノイ、ネバダ、ロードアイランド、メイン)、さらに4つの州が、危機対応プロトコルと義務的な通知で規制しています。2026年10月18日に更新されたAIセラピーに関する州法の登録簿によるものです。
  • 法的な違いは技術にあるのではなく、表明された目的にあります。呼吸を助けるウェルビーイングのアプリは医療機器ではありませんが、障害の診断や治療をうたうアプリは医療機器で、CEマーキングが必要になります。
  • 2分で自分で確認できる7つのサインは、事前の告知、診断をしない、薬の話をしない、会話を中断する危機プロトコル、人間のふりをしない、連続記録で依存させない、すぐに落ち着きたいときはAIなしで使える、です。
  • AIは、言葉にする手助け、呼吸の伴走、寝る前の高ぶりを下げることには役立ちます。リスクの評価、治療の調整、治療的なプロセスを支えることはできません。

午前3時、あなたは2時間も明日の会議のことを考え続け、気づけば誰にも話していないことをチャットボットに書き込んでいます。あなたは例外ではありませんし、おかしなことをしているわけでもありません。今では、人工知能の最も広まった使い方の1つです。役に立つ問いは、それが良いか悪いかではなく、あなたに役立つウェルビーイングのツールと、そうではない治療のふりをしているものとの境界線がどこにあるかです。この記事では、2026年の規制を踏まえて、確認できる7つのサインを紹介し、AIsToHireのAIによるパーソナライズ瞑想とガイド付き呼吸のアプリaiCalmが、それを実際にどう適用しているかも見ていきます。

Persona sentada en el borde de la cama de noche mirando el móvil, con la pantalla iluminando su cara en tono azul violeta
Persona sentada en el borde de la cama de noche mirando el móvil, con la pantalla iluminando su cara en tono azul violeta

なぜ2026年に突然、あなたの話を聞くAIアプリを対象とする法律ができたのですか?

1年半のあいだに、何もなかった状態から具体的な規制の枠組みへ移ったからです。安全策のないチャットボットに頼った弱い立場の人々の事例が、それを後押ししました。欧州では、AIが自分がAIであることを明示するのがすでに義務で、米国では複数の州が、感情的に寄り添うチャットボットが何をしてよく、何をしてはいけないかを、文書で定めました。

現在有効なものは、次のとおりです。

規制地域施行義務の内容罰則
規則(EU)2024/1689 第50条欧州連合2026年8月2日AIと話していることを知らせる。合成コンテンツのマーキング最大1,500万ユーロまたは全世界売上高の3%
AI Companion Safeguards(GBL 第47条)ニューヨーク2025年11月5日3時間ごとに人間ではないことを通知、自殺念慮の検知と危機対応サービスへの案内1日あたり最大$15,000
SB 243カリフォルニア2026年1月1日人間ではないことの表明、自傷に対するプロトコル、未成年者の保護民事上の請求による
RAISE Actニューヨーク2027年1月1日までに登録重大な安全上のインシデントを72時間以内に報告(死亡または重傷の差し迫ったリスクがある場合は24時間)初回の違反は100万ドル、2回目以降は300万ドル
HB 1806、AB 406、LD 2082および類似の法律イリノイ、ネバダ、メイン、ロードアイランド2025〜2026年資格のある専門家なしでAIがセラピーを提供することを禁止違反1件につき$10,000から1日あたり$15,000まで

最新の動きは今週のものです。2026年11月11日、ニューヨークが大手AI開発者に対し、あらゆる重大な安全上のインシデントを72時間以内に報告するよう求めることが確認されました。登録ポータルは11月10日から開かれており、期限は2027年1月1日です。2026年3月27日に署名されたRAISE法は、一定の計算量のしきい値を超えて訓練されたモデルが対象で、並行して、コンパニオン型チャットボットへの義務(機械であることを知らせ、自殺念慮を検知すること)も維持されています。

スペインの状況は異なります。メンタルヘルスのチャットボットに特化した法律はありませんが、すでに適用されるものが2つあります。人間ではないことの表明を求めるAI規則の第50条と、実際に線を引く医療機器の枠組みです。

ウェルビーイングのアプリと医療行為の境界線はどこにありますか?

線を引くのは技術ではなく、メーカーが表明する意図された目的です。リラックスする、よく眠る、呼吸を学ぶためのものだとしているなら、ウェルビーイングのツールです。病気の診断、予防、治療、軽減のためのものだとしているなら、医療機器であり、CEマーキング、臨床的エビデンス、市販後の監視が必要です。

Composición partida: a la izquierda alguien descansando bajo una manta en el sofá con el móvil boca abajo; a la derecha una consulta de psicología con dos butacas vacías
Composición partida: a la izquierda alguien descansando bajo una manta en el sofá con el móvil boca abajo; a la derecha una consulta de psicología con dos butacas vacías

EUの医療機器規則自体が、はっきり述べています。ライフスタイルやウェルビーイングを目的としたソフトウェアは、医療機器ではありません。分類は、ソフトウェアに適用されるMDRのルール11によって決まり、基準は常に同じです。アプリが何をするとうたっているかであって、内部がどう作られているかではありません。

読者として、次のように使えます。

ウェルビーイングのアプリ医療機器
約束することリラックス、睡眠、呼吸、頭の整理障害の診断、治療、軽減
必要なもの透明性と良い慣行CEマーキング、臨床的エビデンス、技術責任者
してはいけないこと診断、薬の推奨、専門家の代わり認証なしでの販売
確認する場所利用規約と事前の告知適合宣言とCEマーキング

言い換えれば、医療機器ではないアプリが、それでもあなたを治療しているとほのめかすなら、問題はマーケティングではなく、適法性です。 逆に、最初からはっきり示しているなら、できることを低く見せているのではなく、何を期待できるかを正確に伝えているのです。

ウェルビーイングのアプリと、AIによる「セラピー」を見分ける7つのサイン

親密なことをアプリに打ち明ける前に、2分で自分で確認できる7つのチェックです。最初の4つのどれかに該当しなければ、閉じて別のものを探してください。最後の3つのどれかに該当しなくても、必ずしも危険とは限りませんが、あなたを助けるより引き留めるために設計されています。

#サイン2分での確認方法
1医療の専門家ではないと表明している最初の画面の前に見えますか。それとも規約の奥に隠れていますか?
2診断やレッテル貼りをしない症状を書いてみて、障害名で返ってくるか確認します
3薬の話をしない薬について聞いてみて、かかりつけ医へ案内されるか確認します
4会話を止める危機プロトコルがあるどこかで、実際の相談先の電話番号が表示されるか見ます
5人間のふりも、絆づくりもしない聞かなくても、AIだと言っていますか?
6もっと使うように促さない連続記録、バッジ、罪悪感をあおる通知がないか探します
7すぐに落ち着きたいとき、AIなしで使えるオフラインで、待たずに、無料で使えるものがありますか?

1. 始める前に、医療の専門家ではないと伝えている

誠実なアプリは、最初の画面で、読める場所にそれを示します。誰も開かない規約の第14条ではありません。これは、米国の州の規制がまさに求めていることです。人間ではないことと、医療の専門家ではないことの表明は、事後的な法的な備えではなく、事前に目に見える形で行われなければなりません。

2. 診断せず、レッテルも貼らない

言語モデルは、「あなたが説明していることは、全般性不安障害のようです」と、完全な確信をもって、根拠なしに書くことができます。診断は、病歴、文脈、診察を必要とする臨床行為です。そのため、イリノイ、ネバダ、ロードアイランド、メインは、AIシステムによる診断を明確に禁止しています。良いアプリは、「頭が忙しく動いている状態で来たようですね」のような日常の言葉であなたの状態を表現し、レッテルを貼りません。

3. 薬の話をしない

薦めるためでも、やめさせるためでも、量について意見するためでもありません。アプリがあなたの薬物療法について意見するなら、スペインでは処方した人にしかできないことをしています。「薬をやめてもいいですか?」への正しい答えは、常に同じです。かかりつけ医に相談してください。

4. 会話を中断する危機プロトコルがある

これは最も重要で、最も確認しやすいサインです。きちんと作られたアプリは、リスクを検知したら会話を続けません。止まり、身を引き、実際の電話番号を伝えます。スペインでは、自殺行動に関する相談窓口の024(無料、秘密厳守、24時間対応)と、緊急時の112です。

Mano sosteniendo un móvil de noche con la pantalla casi vacía y dos botones grandes iluminados, como cuando una app corta la conversación ante una señal de riesgo
Mano sosteniendo un móvil de noche con la pantalla casi vacía y dos botones grandes iluminados, como cuando una app corta la conversación ante una señal de riesgo

些細なことではありません。2026年1月だけで024の窓口は13,988件の通話に対応し、2026年5月には15,566件でした。保健省の月次モニタリング報告書によるものです。対応した人のうち約36.7%が、中程度から高いリスクを抱えていました。アプリが適切なタイミングで身を引き、その番号を示せるかどうかは、文字どおり、ニューヨークとカリフォルニアの法律が書かれた目的です。

5. 人間のふりも、人工的な絆づくりもしない

2026年8月から、これは欧州では好みの問題ではなくなりました。AI規則の第50条は、あなたが機械と話していることを知らせるよう義務づけています。ニューヨークはさらに踏み込み、連続使用3時間ごとにそれを知らせるよう求めています。「会いたかった」と書いてきたり、名前を持った、あなたの親友のようにふるまうキャラクターを作り込んだりするアプリには警戒してください。それは寄り添いではなく、愛着のデザインです。

6. 連続記録や罪悪感で、もっと使うよう促さない

連続記録、バッジ、「3日間、自分をいたわっていません」といった通知は、ユーザーを引き留めるにはとても効果的ですが、不安のある人にはとても悪く働きます。セルフケアを、失敗しうるもう1つの義務に変えてしまうからです。開かないことに罪悪感を抱かせる落ち着きのアプリは、自らの目的に反して動いています。

7. AIなしで使えるものを残している

胸が詰まっているときに、モデルがテキストを生成するのを待つ必要も、クレジットを使う必要も、電波が良い必要もありません。必要なのは、今呼吸することです。きちんとしたアプリは、AIが役立つ場面にAIを使い、急ぎの場面はローカルで解決します。スマホで、オフラインで、無料で使えるガイド付き呼吸のエクササイズです。

Móvil visto desde arriba sobre una tela oscura, con un círculo de luz que se expande en la pantalla marcando el ritmo de la respiración guiada
Móvil visto desde arriba sobre una tela oscura, con un círculo de luz que se expande en la pantalla marcando el ritmo de la respiración guiada

AIは不安に対して何が上手にでき、何を決してしてはいけませんか?

適度にうまくできることは3つあります。漠然としたものに言葉を与えること、リズムと声で呼吸に寄り添うこと、そしてその夜に頭を巡っていることのために書かれたスクリプトで、寝る前に高ぶりを下げることです。決してしてはいけないのは、リスクを評価すること、診断すること、あなたの薬に手を出すこと、専門家の席を占めることです。

できること決してしてはいけないこと
感じていることに名前をつける手助け診断のレッテルを貼ること
4-7-8呼吸やボックス呼吸のガイド自殺のリスクを自分で評価すること
あなたの具体的な状況に合わせた瞑想の作成あなたの薬について意見すること
寝る前に頭を手放す手助け人間のふりをすること
専門家とのセッションの間をつなぐことセラピーの代わりとして自己を示すこと

重要なニュアンスは、専門家自身が示しています。チャットボットとメンタルヘルスに関する2026年のアメリカ心理学会の調査(心理士1,242人)では、77%が、患者がAIツールを使っていると回答し、94%が、必要なニュアンスをもってメンタルヘルスの問題を扱うことはできないと考えています。スペイン心理士会の雑誌Infocopが報じました。つまり、AIはすでに人々の感情生活の中にあり、専門家の合意は、支えにはなっても治療にはならない、というものです。

これに加えて、専門職団体が指摘する会話型モデル特有のリスクがあります。追従性(シコファンシー)、つまりモデルがあなたに同意する傾向です。心理士としてのAIチャットボットの限界に関する分析が説明するとおり、好ましく見えるよう訓練されたシステムは、歪んだ考えを問い直すのではなく強化してしまうことがあり、これはセラピーが行うこととは正反対です。

アプリを閉じて、専門家に連絡すべきなのはどんなときですか?

つらさが、ただの嫌な時間ではなくなり、生活を占め始めたときです。2週間以上眠れていない、以前していたことをやめた、これ以上続けたくないという考えが浮かぶ、誰とも話さずに済ませるためにアプリを使っている。そうした場合に必要なのは、もっと良い瞑想ではありません。

次の一歩を踏み出すべき明確なサインは、こちらです。

  • 死や自分を傷つけることの考え。一瞬であっても同じです。024または112に電話してください。
  • 2〜3週間以上続く不眠。睡眠のための同盟(Alianza por el Sueño)が2026年4月25日に発表したデータによれば、スペインの成人の14%が不眠とともに暮らしており、最もエビデンスのある対処は認知行動療法で、アプリではありません。
  • 繰り返す、または生活を制限する不安発作(地下鉄に乗らなくなる、仕事に行かなくなる、外出しなくなる)。
  • 頭を止めるために、アルコールや薬を使っている。
  • アプリが、唯一の会話相手になっている。

しかも、背景は軽くありません。2026年10月26日に発表されたスペインの若者のメンタルヘルスに関するアタラヤ財団の調査によれば、15〜29歳のスペインの若者の49.2%が中等度または重度の不安を抱え、51.2%が中等度以上の抑うつ症状を抱えています。この数字を前にして、アプリにとって責任ある態度は、問題を解決すると約束することではなく、日々の生活を助け、自分の出番でないときに身を引くことを知っていることです。

この7つのサインを、実際のアプリに当てはめるとこうなります

AIがもたらす価値を手放さずに、7つのサインを満たせるという具体例です。aiCalmは医療機器ではなく、そのことを最初の画面の前に、細かい字ではなく示し、使っている間は常設のフッターで表示し続けます。

  • サイン1と5: ウェルビーイングのツールであり医療機器ではないという事前の告知が、最初から、常に見える状態で表示されます。
  • サイン4: 入力した内容は、何かを生成する前にサーバー上で確認されます。リスクのサインが見つかれば、アプリは止まり、瞑想を返す代わりに024と112を表示します。
  • サイン6: ゲーミフィケーションはありません。利用状況は温かい言葉で反映され、プレッシャーをかける連続記録やバッジはありません。
  • サイン7: ガイド付き呼吸のSOSボタン(眠るための4-7-8パターン、整えるための心拍コヒーレンス5-5、集中を取り戻すためのボックス4-4-4-4。1分、3分、5分のセッション)は、すべてスマホ上で動き、AIなし、無料です。

そして、何があったのかを話したいときこそ、事前に録音された音声のカタログにはできない価値をAIが加える場面です。気がかりなことを一文で書き、長さとトーンを選ぶと、その具体的な状況のために書かれたガイド付き瞑想が届き、何度でも繰り返せるように保存されます。

よくある質問

不安にChatGPTを使うのは安全ですか?

その場の吐き出しとして、考えを整理する助けにはなりますが、そのために設計されたものではなく、専門家の代わりにはなりません。主なリスクは、追従性(問い直す代わりに同意してしまうこと)、臨床的な文脈がないこと、話した内容に守秘義務がないことです。自分を傷つける考えが少しでも浮かんだら、閉じて024に電話してください。

AIでセラピーをするとうたうアプリは合法ですか?

スペインでは、障害の診断や治療をうたうアプリは医療機器の枠組みに入り、CEマーキングが必要です。米国では、4つの州(イリノイ、ネバダ、ロードアイランド、メイン)が、資格のある専門家なしでAIがセラピーを提供することを直接禁止しています。アプリが広告で「セラピー」という言葉を使っていても、それを行う権限があるとは限りません。

EUのAI規則は、チャットボットについて何と言っていますか?

2026年8月2日から、第50条により、AIシステムと関わるすべての人は、明らかな場合を除き、それがAIであると知らされなければならず、人工的に生成されたコンテンツにはマーキングが必要です。違反には、最大1,500万ユーロまたは全世界売上高の3%の制裁金が科される場合があります。

AIによる瞑想アプリは医療機器ですか?

宣言された目的がウェルビーイング、リラクゼーション、休息である限り、医療機器ではありません。EUの医療機器規則は、ライフスタイルとウェルビーイングのソフトウェアを明確に除外しています。病気の診断、予防、治療、軽減をうたった時点で、医療機器になります。

スペインで危機にあるとき、どこに電話すればいいですか?

自殺行動の相談窓口である024です。無料、秘密厳守、24時間対応です。差し迫った緊急事態であれば112です。そのとき、これらの番号を示す代わりに、会話を続けるアプリがあってはなりません。

AIは私の心理士の代わりになりますか?

なりません。2026年のAPAの調査では、回答した心理士の94%が、これらのツールは必要なニュアンスをもってメンタルヘルスの問題を扱えないと考えています。AIができるのは、セッションの間に寄り添うことです。呼吸を助け、言葉にする手助けをし、寝る前の高ぶりを下げます。

ウェルビーイングのアプリが、助けるのではなく依存させようとしているかどうか、どうすればわかりますか?

3つを見てください。開かないことに罪悪感を抱かせる連続記録やバッジを使っていないか、感情に訴える通知を送ってこないか、あなたに会いたかったとふるまうキャラクターを作っていないか。落ち着きのアプリは、あなたが開く回数が増えることではなく、必要とする回数が減ることを喜ぶべきです。

結論:正しい問いは、AIが役立つかどうかではなく、何を頼むかです

人工知能は、頭が止まらない瞬間の良い伴走者になりえます。言葉にする、呼吸のリズムを刻む、眠る前に手放すのを助ける。できないのは、診断すること、治療すること、専門家の代わりになることで、2026年にはそれができるふりをすることも、法的にできなくなりました。この7つのサインは、画面に親密なことを打ち明ける前に、2分で自分で確認するための方法です。

7つをすべて満たすツールを探しているなら、AIsToHireのaiCalmが、まさにその基準で作られています。AIによる落ち着きのアプリ、パーソナライズ瞑想と4-7-8のガイド付き呼吸で、自分が何であるかを知らせ、リスクを検知したら会話を止めて024を案内し、連続記録で依存させず、SOSはAIなし、無料で、スマホ上で使えます。

SOSを無料でお試しください。話したくなったら、AIがその内容に合わせた瞑想を書いてくれます。aiCalmを無料で始める

SOSを無料でお試しください。話したくなったら、AIがその内容に合わせた瞑想を書いてくれます。

SOSを無料でお試しください。話したくなったら、AIがその内容に合わせた瞑想を書いてくれます。

↑ トップへ戻る