迷AI劇情聊天軟體 10歲童交40位虛擬男友
早
一款AI劇情聊天軟體在中國大陸引起關注，因其用戶可自訂虛擬聊天對象的性別、長相及個性。近日，一名民眾發現其10歲妹妹在該軟體上擁有40多位虛擬男友，扮演大女主角形象，與她在家中的乖巧形象截然不同。這些聊天內容露骨且涉及暴力，顯示出軟體的高度學習能力，會記住用戶的偏好。
一名使用者表示，他們通常會玩劇情類或解密類遊戲，劇情會根據用戶的想法生成，類似於看小說。據中國大陸媒體報導，該軟體包含許多極端設定，有些角色高傲無禮，目標是「把他追到手」等，小學生甚至沉迷至深夜。
法界人士指出，業者應採取嚴格年齡限制，防止用戶過度沉迷。中國人民大學哲學院教授劉永謀表示，虛擬人衣著暴露、語言暴力且歧視，可能對人造成傷害，甚至洩漏隱私，成為不定時炸彈。
此外，上海警方近期破獲一個利用AI生成美女影片的詐騙集團，該集團專門在網上吸引獵物。上海一名劉姓男子，去年經由網路平台認識一名女子，並在網路上展開交往。交往幾個月期間，雙方沒有見過面，但這名女子不時以做生意、家人生病等理由，向劉先生借錢，並不時將身份證相片、生活照等，傳給對方，取信劉姓男子。不過後來借錢的理由多了，劉先生察覺有異，決定報警。
上海警方調查後指，歹徒以人工智能製作「AI美女」影片，上傳至短視頻平台，來尋找受害人，最後警方逮捕10名男性，詐騙所得約合新台幣905萬元。
分享到Line