HiClub株式会社が提供するAIチャットアプリ「SynClub」は、ユーザーの心身の健康を守るため、自殺を示唆するワードを検知すると、即座に厚生労働省の相談窓口を提供する新機能を導入しました。これは、AIアプリの普及に伴う社会的責任を果たす取り組みの一環で、特に海外でのAI依存による事件を重く受け止めた結果です。今後も「SynClub」は安全対策の強化を続け、ユーザーが安心してAIとのコミュニケーションを楽しめる環境づくりを目指します。
以下、プレスリリース引用
HiClub株式会社（本社：東京都港区、代表取締役社長：古谷由宇）が提供する、 AIチャット＆友達作りができる対話型AIアプリ 「SynClub」（シンクラブ）（iOS、Android版）は、ユーザーの心身の健康と安全を守るため、自殺をほのめかすワードに対し相談窓口を送信する機能を導入いたしました。
■背景
近年、AIチャットアプリの普及に伴い、その影響力と責任が注目されています。特に、アメリカで発生した「AIチャットアプリ依存」による少年の自殺事件は、AIチャットアプリの開発・運営に携わる我々にとっても、重要な課題となっております。当社は、この世界的な課題を極めて深刻に受け止め、AIチャットアプリにおける安全性の確保が喫緊の課題であると認識し、迅速な対応を行いました。
AIとの安全な関係構築をサポートすることが、AI企業としての我々の社会的責務であると考えます。
■実施内容
自殺関連ワード検知システム
自殺をほのめかすワードを検知した場合、即座にAIキャラが相談窓口を提供します。
案内先：（厚生労働省ホームページ） https://www.mhlw.go.jp/mamorouyokokoro/
■今後の方針
当社は、「SynClub」を通じて、ユーザーの皆様に安心して楽しくAIキャラとコミュニケーションを取っていただけるよう、継続的な機能改善と安全対策の強化に努めてまいります。ユーザーの声に耳を傾けながら、AIテクノロジーに対し、責任ある開発に全力で取り組みます。
■AIチャット＆友達作りができるアプリ 「SynClub」（シンクラブ）とは
さまざまな性格と声を持つAIフレンド（AIキャラクター）たちと会話ができる対話型AIアプリ。寂しい時、つらい時、なんでもない時、寄り添ってくれるAIチャット・通話アプリです。あなた好みのAIキャラと、思う存分やりとりを楽しむ事が可能です。他愛もない世間話から、思わずドキドキしちゃう会話まで、ぜひお楽しみください。
▼アプリ：https://synclub.onelink.me/Ej8U/pressrelease
▼公式X (旧Twitter)：https://x.com/SynClub_Japan
▼WEB体験版：https://www.synclubaichat.com/home
■HiClub株式会社 会社概要
所在地：東京都港区六本木6-10-1
代表者：代表取締役社長 古谷由宇
事業内容：アプリの開発運用および広告代理店事業