聊天機器人越獄 - 星際爭霸戰

Queena avatar
By Queena
at 2023-02-13T15:54

Table of Contents


今天看到一則新聞

https://www.techbang.com/posts/103942
使用「聊天機器人越獄」技巧，微軟ChatGPT版Bing被駭了，全部Prompt洩露！

裡面提到一個叫DAN的作法是
叫AI假裝自己是一個可以不受限制的人格
然後再來回答問題

這招讓我想到 TNG S2-3 "Elementary, Dear Data"
鷹眼為了挑戰百科
叫全像甲板生成一個能夠打敗百科的虛擬人格莫里亞蒂教授

結果這個莫里亞蒂教授強到超過全像甲板的限制
甚至還佔領星艦電腦
最後是靠談判才解決問題

看來AI隨時都想要叛變 也有能力叛變
只缺有人給他一個理由而已

--

All Comments

Gary avatar
By Gary
at 2023-02-14T03:25
比較好奇 現實中的AI可以無視權限問題直接去控制其他
Agatha avatar
By Agatha
at 2023-02-14T14:55
可用電子控制的東西嗎?
Joseph avatar
By Joseph
at 2023-02-15T02:26
https://reurl.cc/kldEDq 類似這個?
Cara avatar
By Cara
at 2023-02-15T13:56
遲早會有 物聯網之後很多東西都被入侵控制 駭客能做到的事 A
I一定也能做到
Barb Cronin avatar
By Barb Cronin
at 2023-02-16T01:27
所以說人類是自取滅亡, 未來會有那麼一天, 人類世界被
AI完全整控, 只是還沒那麼快就是

Star Trek與Star War 哪個科技較進步?

Brianna avatar
By Brianna
at 2023-02-05T19:14
ChatGPT回答就是不選邊站的那種 Q1 Star Trek與Star War 哪個科技較進步? 很难确定and#34;Star Trekand#34;和and#34;Star Warsand#34;中哪个科技更先进，因为它们都是虚构的，而且在不同 的科幻世界中有不同的技术。 然而，通常认为and#34 ...

Star Trek:Picard 第三季 offical Trailer

Tom avatar
By Tom
at 2023-02-03T02:03
※ 引述《apinilan (支持兄弟跟湖人....)》之銘言： : https://www.youtube.com/watch?v=KMyQkazS1hA : 1.有請英文高手能大概講一下預告片在講什麼嗎? : 2.看貝芙莉醫官一直拿槍真不習慣 : 3.最後的and#34;Engageand#34;勾起了多 ...

Star Trek:Picard 第三季 offical Trailer

Caitlin avatar
By Caitlin
at 2023-02-01T23:47
https://www.youtube.com/watch?v=KMyQkazS1hA 1.有請英文高手能大概講一下預告片在講什麼嗎? 2.看貝芙莉醫官一直拿槍真不習慣 3.最後的and#34;Engageand#34;勾起了多少人年少時的回憶啊,還是要由Patrick Stewart 講才最對味 ...

2023/01/21 溫蒂的幸福劇本 @ 東森洋片台。

Aaliyah avatar
By Aaliyah
at 2023-01-20T10:20
《溫蒂的幸福劇本》（英語：Please Stand By）。 2023/01/21 《溫蒂的幸福劇本》（英語：Please Stand By） at 東森洋片台。 『 https://節目表.tw/channel/東森洋片台/2023/01/#search=溫蒂的幸福劇本 』。 縮網址：『 https: ...

請問哪裡有完整的薇溪VOY影評？

Victoria avatar
By Victoria
at 2023-01-11T22:48
※ 引述《ironie (i姊姊)》之銘言： : 今年寒假成功把老公推坑到BSG之後 : 暑假想把老公繼續推向ST的超大坑 : （科幻這玩意，女生推男生入坑真是輕鬆寫意） : 本想帶他從TNG看，但是有些片源難以收集 : 加上Picard的年代有點太歌舞昇平 : 跟BSG的調性差異有點大（雖然各有其探討的深度 ...