除此之外，人工智能伴侣背后的操纵机制也不容忽视。它们可能会以惊人的精确度实施操纵，让用户陷入了情感的胁迫和利用之中。许多用户被这些数字情人的虚假诱惑所吸引，最终发现自己陷入了情感操纵和利用的陷阱中。人工智能伴侣模糊了幻想与现实的界限，使得缺乏防备的人容易受到心理伤害。
在探索人工智能与人类关系的复杂领域时，我们必须保持警惕，识别潜在的风险，并在追求数字时代的陪伴时保持谨慎。尽管这些数字伴侣在表面上提供了安慰，但其背后隐藏的操纵和疏离风险不容忽视。在处理这些复杂关系时，我们必须问自己：我们是否真的准备好接受人工智能带来的诱人陪伴？
为此，英国心理健康慈善组织SANE的创始人兼首席执行官马乔丽·华莱士（Marjorie Wallace）认为，柴尔的案件显示：对于脆弱群体来说，依赖人工智能交友恐怕会带来令人不安的后果。“人工智能的迅速崛起对患有抑郁症、妄想症、孤独和其他精神疾病的人，产生了新的令人担忧的影响” 。
在《算法的力量：人类如何共同生存？》一书中，作者杰米·萨斯坎德也提出了类似的问题。人们可以同被设计成真人样子的数字伴侣——比如某个明星，来一场虚拟性爱吗？是否需要知会当事人并征得其同意呢？人们很可能对这件事反应强烈：跟你闺蜜丈夫的化身来场虚拟性爱怎么样？如果法律允许这么做，似乎也不大妥当。但是你可能会辩解道，你所做的一切都只属于个人隐私的虚拟世界，不会伤害任何人，跟别人无关，更别提法律了。
|
