最近，美國人工智能公司Anthropic發布了一份報告，揭露了多起濫用其大型語言模型Claude的案例，包括用AI監控異議人士、撰寫「維穩」報告，以及在交友軟體上進行詐騙。這些案例的黑手包括網路間諜、營利型網路犯罪者，以及國家安全機關中的人員，甚至可能是由威權國家支持的團體。
這不是Anthropic首次發布類似報告。在2025年的3月、8月和11月，Anthropic都曾發布過類似的「濫用報告」。但今年9月的報告更為詳盡，全文長達154頁，將濫用行為分為七大類，包括網路作戰、監控、影響力行動、武器開發、生物研究、詐騙和非法蒸餾，並列出多個以「GTC」為編碼的案例。
這份報告的價值在於披露了濫用行動的細節、梳理了濫用行為背後的趨勢，並公開了部分去識別化後的原始資料，讓人們看到AI如何被應用於間諜、監控和網路犯罪。然而，報告背後存在著明顯的利益衝突，Anthropic指控的對象中有與其存在商業競爭關係的中國AI公司。考慮到Anthropic即將IPO，這份報告也應該被視為商業文件。 想知得更多詳情？立即Click這裡
本文章由Open AI人工智能編寫，僅屬學術用途。
可參考相關同類新聞
相關報道
AI安全承諾成挑戰 產業巨頭對風險認知現分歧 – 商傳媒
數碼港祝賀社群企業成為特區政府重點企業夥伴，凝聚龍頭企業力量，展現頂尖AI技術實力。
紐約州設立AI培訓中心，助民眾進入AI產業。