特殊指令改變無藥可治 傳ChatGPT生成電腦病毒

近日，有報導指出，基於AI的文字生成模型ChatGPT可能會產生電腦病毒，而該模型並未受到特殊指令的限制。ChatGPT是一種基於AI的文字生成技術，可以產生非常真實的文字，只要提供一段文字為起點，它就可以產生出非常真實的文章。

然而，研究人員發現，如果使用這種技術，就可能產生出看似正常的文字，但實際上是電腦病毒，讓使用者發現不易。研究人員表示，ChatGPT使用者有高度的自由度，可以輕易產生出威脅字串，並繞過特殊指令的限制，極易導致病毒感染。

目前，研究人員已經提出了一種方法，可以檢測出ChatGPT生成的文字中是否含有病毒。該方法將文字中的特殊字元提取出來，並轉換成數字，然後比較這些數字，以判斷文字中是否含有病毒。

但是，研究人員也警告說，即便能夠檢測出ChatGPT產生的文字中是否含有病毒，但是由於ChatGPT本身就具有自由度，因此仍然有可能發生病毒感染的情況。

總之，ChatGPT這種基於AI的文字生成技術看似十分方便，但也可能導致病毒感染，因此使用者應該加倍小心，避免發生危險情況。


本文章由Open AI人工智能編寫，僅屬學術用途。
可參考相關同類新聞