openai/privacy-filterじゃないprivacy-filter

openai/privacy-filterは、テキスト中の個人情報（PII）や機密情報を自動検知してマスキング（伏せ字化）するオープンウェイトの軽量モデルです。
ローカル環境で動作し、128Kの長いコンテキストに対応しているため、社内文書や会議録を生成AIに入力する前段階の安全弁として、情報漏洩を防ぐツールとして機能します。
2026年4月に公開され、多くの環境で利用されています。
Apache 2.0ライセンスで、GitHubやHugging Faceで公開されています。
これを悪用した活動が、確認されています。

• Open-OSS/privacy-filter
  プロジェクト名の部分は同じですが、アカウント名部分が正規のモノとは異なります。
  中身はどうなってるのでしょう。
  正規のopenai/privacy-filterに含まれている正規のモデルを構成するものは含まれています。
  このため、この偽物を入手して環境に適用すると、正規のものを展開したときと同じ効果は得られます。
  しかし、それだけではありません。
  余分に含まれているマルウェア展開を実行させられてしまいます。
  展開されたマルウェアは、保存されたパスワード、セッションCookie、OAuthトークン、SSHキー、FTP認証情報、クラウドプロバイダートークンなど、そのマシン上のブラウザー、パスワードマネージャー、または認証情報ストアに保存されていたすべての認証情報、などの広い範囲の情報を持ち出します。
  これらが持ち出された状態になると、多要素認証も安全を確保した状態には保てない状態になっています。
  また、持ち出された情報の中に暗号資産のウォレットの情報がある場合、その資産も移動させてしまうことが可能な状態になっています。
  Open-OSS/privacy-filterを展開してしまった環境は、速やかに隔離し、そのうえで、その環境上に配置していたすべてのアカウント関連の認証情報をローテーションさせておく必要があります。

この混ぜ物入りのprivacy-filterは、問題と認識されるまでの間に、20万回以上ダウンロードされてしまっています。
実に厄介です。
情報漏洩を防ぐツールとして入手したはずが、情報漏洩を実施するツールとなってしまったことになります。
入手元の確認は非常に重要な取り組みです。

Malware Found in Trending Hugging Face Repository “Open-OSS/privacy-filter”
https://www.hiddenlayer.com/research/malware-found-in-trending-hugging-face-repository-open-oss-privacy-filter