ザッカーバーグはマスコミで嘲笑され、アナリスト会社はメタの名前変更を提案（再び）

ザッカーバーグはマスコミで嘲笑され、アナリスト会社はメタの名前変更を提案（再び）

タイムスタンプ：26年2023月5日午前53時XNUMX分
ソースノード： 2609651

テクノロジー起業家の Wayne Chang 氏は、チャットボットや大規模言語モデル (LLM) を防ぐ AI ツール LLM Shield を開発したと主張しています。 AI言語モデルを活用してコードのデバッグからデータの異常検出まで、 企業秘密を盗むことから。 AIツールの使用が最近増加しており、企業がデータ漏洩や訴訟に対して脆弱になる可能性があるという懸念が高まっています.

報告によると サイバーヘブン、 推定 2.3% の労働者が会社の機密情報を ChatGPT に入力し、チャットボットに貼り付けられたデータの 11% は機密情報です。

その結果、JP モルガン チェースを含む多くの企業が 報道によると ツールへの従業員のアクセスをブロックしました。

また、お読みください。 メタバース オフィスは復活していますか?

LLM Shield は、企業や政府が機密データを ChatGPT や ChatGPT などの AI 搭載ツールにアップロードするのを防ぐように設計されています 吟遊詩人.

Chang 氏は Fox Business に対し、OpenAI の ChatGPT が XNUMX 月に市場にリリースされたとき、それがどれほど強力であり、「非常に大きなリスクを伴う」ことを知ったと語った。

「物事はかなり急速にエスカレートするでしょう。それはポジティブでもネガティブでもあります」と彼は言いました。

「ここで私が焦点を当てているのは、AI をポジティブな方向に積極的に導き、マイナス面を可能な限り回避できるようにしたいということです。」

技術を制御する技術

先週リリースされたばかりの LLM Shield は、機密情報のアップロードが試みられるたびに組織に警告を発します。 Fox Business によると、管理者は会社が保護したいデータの種類に対してガードレールを設定できます。

このような情報をアップロードしようとすると、LLM Shield がユーザーに機密データを送信しようとしていることを警告し、詳細を難読化して、コンテンツが有用であるが人間には判読できないようにします。

LLM Shield は、能力を制限する AI ツールと同様に、よりスマートになることが期待されています。 また、スパム フィルターのように更新されるため、市場に出回るボットが増えると、自動的に更新されて保護が強化されます。

チャン氏によると、個人が家庭用にダウンロードできる個人用バージョンをリリースする計画があるという。

データ漏洩は企業を不安にさせる

今年は企業によるAIツールの利用がブームとなり、2023年はAI革命が本格的に始まった年として振り返ることになるでしょう。

ただし、これらのツールの流入により、従業員が故意または偶発的に機密情報を ChatGPT などの AI を利用したツールに漏らす可能性があるという懸念も生じています。

リスクはすでにそこにあります。 サムスン は最近、従業員がソースコードを新しいボットに貼り付けたとされる一連のデータ漏洩を経験しました。これにより、機密情報が漏洩する可能性があります。

ますます、雇用主は 緊張する スタッフが職場で AI ツールをどのように使用するかについて。 一部の企業は、職場での ChatGPT の使用をすでに禁止していますが、従業員は依然として制限を回避しています。

流出したメモでは、 Walmart ChatGPT と機密情報を共有しないよう従業員に警告しています。 このグループは、「当社にリスクをもたらす活動」のためにチャットボットを以前にブロックしたと述べました。

アマゾンも従業員に同じ課題について警告しています。 同社の弁護士は従業員に、会社はすでに ChatGPT の応答例に似た事例を見たと語った。 内部アマゾン データ。

卑劣な従業員

ChatGPT が禁止されているにもかかわらず使用されている国と同様に – 中国 たとえば、アフリカの一部では、従業員が組織内で AI を活用したツールを使用することを思いとどまらせていません。

A 金魚鉢調査 70 月にリリースされた .

Cyber​​haven の CEO である Howard Ting 氏は Axios に対し、従業員はチャットボットへのアクセスをブロックする企業ネットワークの禁止を回避する方法を常に見つけていると語った。

一部の企業は、従業員がチャットボットにアクセスできないと信じていたが、彼の会社はそうではないと彼らに告げた.

「ユーザーはプロキシを使用して、これらのネットワーク ベースのセキュリティ ツールの多くを回避できます」と彼は明らかにしました。

タイムスタンプ：

より多くの メタニュース