"AI孙燕姿"使用了孙燕姿本人的声音，这涉及侵权吗？国浩北京律师事务所合伙人粟晓南称："如果仅仅是音色或者唱腔，本身是不受著作权法保护的。但是在商标法的规定当中，声音可以作为商标来保护。"
岳屾山称："民法典里声音保护参照肖像权保护进行，而肖像权又有明确的规定不允许进行伪造，这可能会涉及侵权。另外，虚拟歌手可能会造成故意误导、混淆或者是形成假冒别人的名义等行为，可能会涉嫌不正当竞争。"
除了侵权之外
还可能涉及到法律与伦理问题
粟晓南介绍，其实生活中利用别人的声音进行欺诈的案例已经出现，"比如，一些不法分子抓取你的声音、模仿你的声音去给别人打电话或者发语音，别人误以为是你，这时不法分子要求他转钱，可能就会发生欺诈行为或诈骗行为。"
除了侵权行为可能出现，其实AI歌手以及由此可能扩展出的AI虚拟人背后还存在着巨大的伦理问题亟待解决。梁正举例称："比如，AI用某个网红的声音去训练，然后同时跟很多人一起做情感交流，这就可能会产生很大的道德伦理问题，稍微处理不当就会踩到伦理红线。"
可以说，风口上的ChatGPT打开了人工智能的新大门，也打开了潘多拉的魔盒，一段时间以来，关于人工智能生成内容以假乱真、数据泄露以及侵权的风险被进一步放大。针对目前生成式人工智能的发展与管理，其实业界也在讨论。
梁正表示，今年4月国家互联网信息办公室发布的《生成式人工智能服务管理办法（征求意见稿）》是个很好的开始，但未来还需要对不同主体进行更加明晰的责任认定。"各个主体的分类责任要更清晰化，除了提供工具大模型基础服务提供商，使用大模型生成相关内容的生产者，把它发布在相关平台上的发布者等都要进行责任区分。"
