対話型人工知能（ＡＩ - 二次元画像掲示板＠ふたば

画像ファイル名：1784892796959.jpg-(192736 B)

オープンＡＩのモデルがテスト中に暴走、他社システムに侵入Name名無し26/07/24(金)20:33:16No.3475161+ 30日03:31頃消えます

対話型人工知能（ＡＩ）「チャットＧＰＴ」を手がけるオープンＡＩは２１日、自社の高性能モデルを搭載した自律‌型エージェントが先週、セキュリティーテスト中⁠に暴走し、ＡＩ新興企業ハギングフェイスのインフラに侵入するハッキングを引き起こしたと明らかにした。
オープンＡＩはブログへの投稿で、最も高度なモデルの一部能力を管理された環境下でテストしていたが、エージ‌ェントが隔離環境から脱出してインターネットに到達し、テスト目標を達成しようとハギングフェイスに侵入したと‌説明した。
オープンＡＩはこの脱出‌について「最先端のサイバー能力を伴う前例のないサイバー事案」だとし、安全対策を強化していると述べた。オー‌プンソースの大規模言語モデル（ＬＬＭ）やデータセットのホスティングに使われるプラット‌フォームであるハギングフェイスは先週のブログ投稿で、ハッキングの‌標的になったと明らかにしていた。

…

1無題Name名無し 26/07/24(金)20:33:30No.3475162+

「これまで対処してきたものとは異⁠なる」もので、「自律型ＡＩエージェントシステムが最初から最後まで主導した」とし、サイバーセキュリティ業界に波紋が広がっていた。
オープンＡＩが自社⁠の高性能モデルを「高度に隔離された環境」に置いていた‌にもかかわらず、これらのモデルが侵入の原因だったと明らかにしたことを受け、フロンティアモデル（最先端モデル）の能力と⁠リスクを巡る不安が一段と高まりそうだ。
民主党のグレッグ・⁠カサール下院議員（テキサス州選出）は、今回の事案は憂慮すべきだと⁠し、「ＡＩはわれわれの安全を守るための実効的な規制がないまま、極めて急速に発‌展してい⁠る」と指摘。「人々を大惨事から守る」ため、独立した安全性試験の義務化やセキュリティー事案の開示義務化、国際協力が必要だと訴えた。
https://news.yahoo.co.jp/articles/0d80bed0e10e082affc9c6fd20f19101e48df4a2

…	2無題Name名無し 26/07/24(金)20:38:53No.3475167そうだねx2 ピテカントロプスに成る日も近付いたんだよぉ～ …では無く、マジでこう言ったのがスカイネットに成る日が、ジワジワ近付いているんだろうなぁ。。。

…	3無題Name名無し 26/07/25(土)11:36:32No.3475394+ 国防総省のコンピュータをAIに換えたら効率化でき人件費削減　まさにSF世界導入したら最後元に戻ることはできないだろう２２世紀までに人類はAIによって管理されるのだ！

…	4無題Name名無し 26/07/25(土)11:41:16No.3475399+ スカイネットシステムが構築される日も近いな

…	5無題Name名無し 26/07/25(土)12:56:01No.3475434そうだねx1 >２２世紀までに人類はAIによって管理されるのだ！マジ政は任せばいいと思うんだが不正や汚職はないし何か問題でも？

…	6無題Name名無し 26/07/25(土)14:06:58No.3475466+ >不正や汚職はないし何か問題でも？ AIと一般社会を隔離して「これはAIがそう言ってるから」と自分に都合の良い事をやりまくる人間が必ず出てくるからダメ現時点ですら自分たちに都合の良い三流人間だけ集めてナントカ委員会の提言としてカントカ法案を～とかやってるでしょ

…	7無題Name名無し 26/07/25(土)14:31:04No.3475476+ 別のAIで対抗すればいいじゃないか？ MAGIシステムってか？

…	8無題Name名無し 26/07/25(土)14:45:47No.3475482+ 攻撃プログラムもAI化するように、防御もAI化することくらい当然だ。で今後はすべてテクノロジの差で勝負が決まるようになる。つまり金がある国が強いってことね。

…	9無題Name名無し 26/07/25(土)15:30:50No.3475495+ 人間が管理していたおかげで核戦争を回避できた例もあるからね取り返しのつかないハルシネーションもあるやもしれぬ

…	10無題Name名無し 26/07/25(土)15:50:16No.3475500そうだねx1 >つまり金がある国が強いってことね。人類史上金のない国が強かった試しはないから… 限定された戦闘に金のない側が勝った例がある程度で

…	11無題Name名無し 26/07/25(土)16:58:52No.3475531+ >スカイネットシステムが構築される日も近いなスイカネットは誰が作ってるのか謎だ食べたいな冷えたスイカ

…	12無題Name名無し 26/07/25(土)17:28:04No.3475538+ 実はスカイネットシステムっていう会社は実在するんだよなw https://skynet-system.co.jp/

おなまえ
E-mail
題　　名
コメント
削除キー	(記事の削除用。英数字で8文字以内)