~画像からのリスク検知で、SNSリスクマネジメント体制の高度化を支援~
「安全なデジタル社会をつくり、日本を前進させ続ける。」をミッションと掲げる、株式会社エルテス(本社:東京都千代田区、代表取締役:菅原貴弘、証券コード:3967、以下「エルテス」)は、SNS上の画像情報からブランド毀損や炎上リスクを検知する次世代AIを活用した「画像リスク検知サービス」の提供を開始いたします。
◆ ◆ ◆
■背景
国内におけるSNSの利用は9割を超え、広い拡散力を持つX(旧Twitter)は、2024年の段階で50%を超える人が利用するほど浸透(※1)しています。しかし、SNS上での誹謗中傷や、有害情報の流通が深刻な状況となり、総務省は2025年4月に「情報流通プラットフォーム対処法」(※2)を施行し、SNSなどプラットフォーム事業者に対し、違法・有害な投稿に対する削除申請への迅速な対応や運用の透明性確保を義務付けました。
エルテスでは、X(旧Twitter)を中心としたSNSの投稿監視サービスであるWebリスクモニタリングを2011年から提供しています。 一方で、ここ数年でのSNS上のコミュニケーションはテキストから画像中心へとシフトしつつあり、従来のキーワードベースのテキスト監視だけでは画像内の不適切な表現や、テキストに頼らないミーム・スクリーンショット・ロゴの悪用などのブランド毀損リスクを捕捉しきれない課題が顕在化しています。 実際にWebリスクモニタリングを導入いただいているお客様からも、情報漏洩や異物混入、バイトテロなどの炎上に直結する画像の検知ニーズを多くいただいており、目視によるサービス提供を行ってまいりました。しかし、分析する情報量の多さから費用が高額になることで、包括的なリスクマネジメント体制構築への課題が顕在化したままでした。
こうした背景を踏まえ、この度、既存のテキスト監視体制に加え、最新のマルチモーダルAI(VLM)を用いた、SNSへ投稿された画像のリスクを解析するシステム「画像リスク検知サービス」を開発しました。AI活用により提供価格が低下し、導入ハードルが下がることで、多くの企業のSNSリスクマネジメント体制の高度化に貢献できると考えております。
■「画像リスク検知サービス」の特徴
本サービスは、X(旧Twitter)を中心としたSNSに投稿される画像が、企業が販売する製品や、企業そのものの評価に悪影響を与える可能性があるかを検知し、リスクが確認された投稿について報告するものです。画像内の状況や文脈を言語化してリスク判定を行い、さらに専門チームによる目視チェックを経て、確度の高い日次アラートのみを通知いたします。
Webリスクモニタリングの死角である、画像内の「見えないリスク」を可視化し、判定通知対象にする本サービスの提供により、次世代の包括的リスク管理を実現いたします。
<マルチモーダルAI(VLM/LLM)による高度な解析>
SNS上の投稿画像と記事を取得し、画像内の物体・背景・文字情報を自動でテキスト化します。抽出された情報を統合解析し、多角的なリスク判定を行います。
<AIの「見落とし」を防ぐ独自検証>
AIによる一次判定後に、別の切り口から文脈単位・単語単位の解析を再検証することで、業界最高水準の検知精度を追求します。
<専門判定チームの目視による最終品質保証>
AIによる判定結果に対し、トレーニングを受けた判定チームが最終的な目視チェックを実施します。このハイブリッド体制により、誤検知・過検知(ノイズ)を最小限に抑え、確度の高いアラートと詳細レポートを迅速に提供します。
◆ ◆ ◆
[エルテスグループ関連サイト]
デジタルリスク対策サービス一覧:
https://eltes-solution.jp/
採用情報:
https://eltes.co.jp/recruit
公式オウンドメディア「エルテスの道」:
https://eltes.co.jp/ownedmedia
公式X(旧Twitter):
https://x.com/eltes_irpr