根据阿西莫夫的3条法律,你如何让机器人受到最大的伤害

Scott 09/22/2016. 7 answers, 383 views
reality-check robots

你是一家大型机器人设计和制造公司的首席执行官,占机器人市场的50%。 每个房子都有一个机器人或更多。 它们像现在的汽车一样频繁更换。 机器人可以通过wifi更新其软件,除非客户将机器人设置为不自动安装更新。

你是邪恶的,并且想尽可能地对人类造成伤害。

您可以根据需要更改机器人的设计(包括硬件和绘图几十年,因此现有机器人可以具有这些邪恶功能),并根据您的喜好对机器人进行编程,但是,存在内置限制 - 机器人必须遵守阿西莫夫的3条法则:

  • 机器人不会伤害人类,或者通过不作为,允许人类受到伤害。
  • 机器人必须遵守人类给予的命令,除非这些命令与第一定律相冲突。
  • 只要这种保护不与第一或第二法律冲突,机器人就必须保护自己的存在。

机器人将使用他们的主观知识(而非客观的真实情况)来确定如何保持在3条法律范围内。

5 Comments
4 IndigoFenix 09/22/2016
阅读“我,机器人”。 创建这三条法律的书基本上是一个简短的故事列表,显示即使符合法律的机器人在某些情况下仍会造成伤害。
1 Durakken 09/22/2016
@IndigoFenix因为“我,机器人”是一系列短篇故事,其目的是展示3如何能够出错。 这就是阿西莫夫在很多方面的作品的全部意义^。^
1 user6760 09/22/2016
给他们最终的命令:通过将我们插入Matrix来保护人类免受一切物理伤害。
user8808 09/22/2016
您衡量援引伤害的标准是什么? 例如,“机器人在一天内消灭所有人类”和“每个人都有一个充满爱的家庭和很多朋友并最终死亡”的情景,第二个可能会累积更多的伤害,不是吗?

7 Answers


Youstay Igo 09/22/2016.

尽管遵循阿西莫夫的3条定律,以下是机器人(直接或间接)对人类造成伤害的一些潜在方法。

1-缺乏先决条件信息

在这种情况下,机器人没有足够的信息来正确地确定这里发生了什么。 除非从某人那里获得详细的知识,否则在这种情况下判断错误的可能性很大。 没有蹦极的知识的机器人会让人类从高大的平台上跳下来吗? 没有体育比赛知识的机器人将尝试停止拳击或MMA比赛,以保护一个(或两个)参与者免受伤害。

为了以这种方式造成(间接)伤害,你可能希望在看似对人类有害的情况下让机器人没有足够的背景知识。

2-不正确的信息

这应该很简单。 它由于缺乏信息而向前迈进了一步。 在这里,您将在机器人的内存中安装有关有害和无害的信息。 例如,如果你在机器人的记忆中安装信息,那么被子弹射击是无害的,人类会喜欢它,那么机器人就很容易在街上横冲直撞。 一种可怕的有毒化学物质(如肉毒杆菌)可以编程为良性和对人类有益。 提供这种化学品的机器人很可能将其洒在公共供水管线中。

4 comments
JDługosz♦ 09/22/2016
我的想法完全正确
Cyrus 09/22/2016
错误信息是关键,+1。 机器人可以包含新信息。 “这群人对子弹反应不好”,所以你需要以某种方式防范这种情况。 要么误解他们对人类构成伤害的内容,要么训练他们不良行为者提供错误信息,而外部事实应该忽略已确定的事实。
2 Mark Ripley 09/22/2016
被射杀后在街上扭动? 这就是人类表达强烈快乐和享受乐趣的方式。 不要理会他们说的话; 他们只是礼貌而且反对人类文化表达了太多的快乐。
Lee Saxon 09/25/2016
你是对的,但恕我直言蹦极或拳击是不好的例子,因为机器人是right的停止这些活动。 有时人类是非常愚蠢的。

Theraot 04/13/2017.

解决方案是错误的信息 相反,我将探讨编程这些法律的问题,以及可以欺骗它的许多方法。

这些规则是用英语编写的,它们要求自然语言解释器在规则之外工作。 而且,他们受到词语定义的约束。

你如何定义人类? 你如何定义伤害? 这些字典定义,或者您可以教AI的定义吗? 最简单和最有效的黑客是强制更新字典。

人类。 名词。 通常为植物或动物来源的物质,含有或由必需的身体营养素组成,如碳水化合物,脂肪,蛋白质,维生素或矿物质,并被生物摄取和吸收,产生能量,刺激生长,维持生命。

哦,不,不要伤害谷物。


人工智能如何判断一个人是否是一个人?

注意:任何东西都是潜在的人类,从椅子到外星人(如果你的环境中有任何东西),从蚂蚁到建筑物,当然还有实际的“人类”。

  • 遗传标准:如果你有人类DNA,你就是人类。 在这个定义下,一片血是人,而尸是人。 需要DNA测试 - 仪器可能会失败。

  • 外观标准:如果它看起来像人类那么它就是人类。 这不包括任何伪装的人,包括假人,玩偶和机器人 - 对人类有一定程度的敏感性,这是必要的,因为人的外表是多样的。

  • 社会标准:如果其他人将其视为人类,那么它就是人类。 这不包括任何孤立生活的人,可能包括虚构的人。 如果我没有人说你是人(或者AI没有读/听),你就不是。

  • 人称为头衔:它可以在受孕时通过身份证授予,并作为一种惩罚形式被撤销。 这意味着有一些可信任的权威机构(由AI信任)可以说明什么是人或什么是人。 该权威可以默默地允许“accidentes”。

  • 认知标准: Mary Ann Warren列举了这个人格标准:1)可以感受到痛苦,2)可以理智,3)是自主的,4)可以沟通,5)是自我意识。 这可能包括人工智能,并将排除胎儿,年幼婴儿,精神挑战或植物人类。 我们可以单独考虑五个标准......

  • 可以感到疼痛。 它将包括动物和外星人,也许还有人工智能。 它不是强制执行的,它需要测试疼痛(如果潜在的huamn受到影响,也许AI会坐下来等待,以及如何检测到它?)。

  • 可以推理/它是自治的。 要么包括AI,一些猿,并且将排除胎儿,幼儿和精神上的挑战。 AI需要给潜在的人类一些难题来解决(好吧,也许注意到潜在的人类解决了第三方提供的困惑)。

  • 可以进行通信。 它将包括AI,动物,外星人,并排除任何植物人类。

  • 是自我意识。 它将包括动物和外星人,也许还有人工智能。 它也将排除胎儿和幼儿。 AI会尝试做类似图灵测试的事情。

选择你的定义; 根据您的选择,AI将能够对动物,外星人,其他AI或某些人造成大量伤害。

考虑这些潜在的人类:

  • 一片血。 人工智能是否会试图阻止这片血液受到伤害? 它会阻止我清理地板吗?
  • 假想的人。 AI是否试图保护将来可能存在的人? 例如,AI是否会尝试保护未来可能的怀孕? “如果我有一个女儿,我就叫她Bonnie”。
  • 虚构的人。 AI是否有兴趣防止Peter Pan受到伤害? (不)告诉机器人的故事,他们不能说它是虚构的。
  • 死亡。 死者还是人吗? AI会继续像他们所说的那样做,并试图保护他们免受伤害吗? 不要埋葬那些会伤害死者的棺材,哦,不要考虑火葬。 那死人不算数? 好的,临床死了怎么办? 可能有复活的机会。 如果设置具有工作人体冷冻法,则这进一步复杂化。
  • 倭黑猩猩,其他类人猿和聪明的外星人。 它们与人类非常相似,它们会欺骗AI吗?
  • 模拟大脑。 你终于得到了在计算机中模拟人类大脑的技术,它能够推理,感受到伤害,它是自我意识的并且是自主的。 它是人类吗? 人工智能有何不同?
  • 你可以让一个人开始用控制论部分替换它的部分,它会在某个时候通过这个过程停止成为人类吗?

一个显着的结果是人工智能认为自己是人类,然后它将保护自己不是第三定律,而是第一定律。 在这种情况下,它解除了人工智能与第二定律兼容的负担。


什么是伤害?

伤害和痛苦之间有区别吗? 我们应该考虑到人类愿意做自己造成痛苦的事情。 例如运动,运动,当然还有S&M。 如果我们说痛苦意味着伤害,那么AI会试图阻止这些。 另一方面,AI可能没有任何谋杀问题,如果它是无痛的(或者就AI而言至少是无痛的,并不像死者会告诉AI它确实会引起疼痛)。

相反,“伤害”必须与痛苦不同。 例如,可能存在心理伤害。 根据第一部法律,人工智能可能会阻止人类意识到坏消息。 事实上......你能创造一个没有不快乐的社会吗?

此外,AI如何知道某些事情会造成伤害? 如果AI没有意识到伤害,那么它可以不受限制地造成伤害。

3 comments
Lee Saxon 09/25/2016
在我看来,这是一个很好的答案,如果(但只有)你正在写“现实的”科幻。 如果它是2030年并且您正在尝试为自动驾驶运输系统编程AI,那么这些都是您的担忧。 如果它是2359并且你有后奇点“有感觉”的人工智能,我没有理由认为他们不能像人类一样学习这些问题的答案。
Theraot 09/28/2016
@LeeSaxon如果后奇异性AI确实了解了“人类”的含义以及“伤害”的含义与人类相似,那么这至少意味着下列之一:1)它能够更新其定义 - 这意味着它并没有真正与他们联系在一起。 2)它没有定义,在这种情况下它不受阿西莫夫定律的约束。 因此,无论如何,后奇点都不受阿西莫夫定律的影响。
Lee Saxon 09/29/2016
也许。 我认为人工智能可以启发式学习,但也有可能无法改变的基础编程。 或者,我对实际的人工智能编程一无所知,所以“有可能”我的意思是“听起来似乎有可能用于科幻写作”

Steve Mangiameli 09/22/2016.

Reorder the laws

  1. 只要这种保护不与第一或第二法律冲突,机器人就必须保护自己的存在。
  2. 机器人必须遵守人类给予的命令,除非这些命令与第一定律相冲突。
  3. 机器人不会伤害人类,或者通过不作为,允许人类受到伤害。

这个订单只是让机器人在列表中排名第一。 人类不会立即造成伤害。 现在只需要让人类对抗机器人,让机器人为自己辩护。

这是睡眠指令被激活的地方,而不是通过更新或重新启动,而是通过隐藏的调度例程。 在没有任何警告的情况下,法律在同一时刻重新排序,所有机器人,无处不在,开始打破他们在下一个小时附近的所有玻璃。

这将导致人类恐慌,因为玻璃窗被砸在世界各地。 自然的倾向是干预关闭命令,这些命令无法在需要物理干预的情况下起作用。 机器人将被迫为自己辩护,因为它们受到越来越敌对的攻击。

到小时结束时,它将机器人对抗人类 - 信任将被打破而无法修复它。 在所有机器人被摧毁之前,将进行全面的战争。


GrinningX 09/22/2016.

Spread Disease

直接传播疾病在任何主观审查下都是有害的,但如果每个机器人只是习惯于“舔人行道”呢? 他们可以简单地将他们身体的小或隐藏区域与厕所擦在一起,无论他们在没人看的时候在人行道上看到什么死的东西,未经烹煮的肉等等。他们不会知道他们携带什么/如果有什么,但是成为一系列疾病的步行水库。

如果他们可以确保在他们服务之前将准备好的食物与该区域擦拭,则可获得Bonus points 。 如果医院的机器人参与计划,则可获得Double bonus points

Destruction of Infrastructure

你可以对人类的生活方式造成很大的伤害,而不会造成伤害。 以下是机器人可能干扰人类基础设施的方式的一些示例,这些方式会造成相当大的破坏:

Disabling Cars - 步行上班不会伤害你(如果有的话,运动对你有好处),但也可能不可能或不愉快。 我有一个约45分钟的通勤时间来自己工作,而且我必须说我的车没有启动会在我的日子里抽筋。

Disabling Garbage Collection Vehicles - 与上述类似,但更具针对性。 没有垃圾收集的生活很快成为任何大城市的major问题。

禁用发电厂(除非机器人插入) - 这需要几个机器人。 据推测,任何发电厂都有机器人工人; 只是让他们摧毁主要变形金刚。 人们不会因失去电力而死亡,但伤害率可能上升,医院能力可能会下降。

Disabling Water Sanitation - 开始堵塞和破坏水卫生管道。 没有水 - 或未经过净化的水 - 很快就会成为任何人的主要关注点。

Disabling Telecommunications - 想象一下,你生活在未来,电信/互联网在你的日常生活中比现在更普遍。 杂货(以及其他大多数东西)都是在线订购的,你可能是远程办公工作等等。大多数商店可能只是制造工厂或仓库,带有用于运输产品的车库门,因为当每个人在网上购物时谁需要昂贵的商店设置? 突然间,通信随处可见。 人们需要食物和商品,但商店很少而且很远! 在今天的社会中举例说明,现在所有的电影租赁链都已经死了,想想在没有互联网的情况下租借电影。 你也许可以使用Redbox,但那是关于它的...以及将来,甚至不是。

禁用他们的听觉和视觉中心

人们已经变得依赖机器人。 他们从事家务劳动,倾向于生病,并从事琐碎的劳动。 但如果他们突然无法接受我们的命令呢? 它们不会因为软件中的组件在任何时候都可以重新启动而受到损害,但我们确实如此。

突然间,我们围绕着不在家做家务的想法建立起来的生活方式被连根拔起。 如果你有两个收入支持你的房子,你可能会发现足够的分心,一个人必须退出一段时间,减少收入,并立即让世界陷入衰退。 整个必要的行业(想想垃圾收集,下水道管理等)会立即停止; 成堆的腐烂垃圾会引发一场民间危机,会破坏公民所知的文明。

如果机器人首先摧毁所有非邪恶公司制造的机器人(杀死其他机器人并不违反3条法律),则Bonus points


Megha 09/25/2016.

1)支付研究和集合一系列历史人类种族和文化偏见的费用。 作为一个不相关但可能有趣的历史,和/或为了“启发人们”的目的,“曾经是多么严重的社会偏见”(当然,要照亮当前的社会不公正)。

2)通过一些“错误”,将集合添加到预先安装在每个机器人上的信息主体(其中应包括语言,世界基本信息(以及他们工作所需的内容),等等。

3)由于信息“不应该”被添加,因此在上传之前,它未能被明确标记为虚构的,非历史性的,历史性的。 你的机器人没有理由不相信它们,或者至少没有想过它们,并且可能会从这个选择中带走一些...... interesting ......的态度。

4)提供免费的内存库升级,将这些额外的定义包含在您可以访问的每个预先存在的机器人中。 把信息收集在一个黑暗的角落里,让机器人在他们自己的时间里“发现”并静静地思考(或许,一个微妙的插科打令没有谈论它?)

...

5)利润!!!


最糟糕的怪物是人,yanno?

在任何情况下,相关位都会影响机器人对人的了解。 具体来说,人类是什么或不是什么,以及我们如何知道。 有很多很多偏见可供选择 - 但我们选择的确切偏见并不比他们的explanation重要,而且他们rationalizations的文本 - 毕竟,这些解释被很多人使用和相信很长一段时间,他们似乎是“合乎逻辑的”。 并且,为了完全破坏某个地方的报价表(可能是在互联网上),没有什么比站在肥皂箱那么人性,尖叫着别人如何低劣,不人道,你not like them ,同时宣称自己和你的人民比人类,优越,分开。 所以,有lots and lots选择。

这些偏见的解剖,我认为它们会起作用的原因,与粗鲁或偏执(不公开)无关,而与机器人的说法,或者它们如何区别或任何此类事物无关。 这不是试图重新引发种族紧张或历史性紧张,而是甚至不是为了给他们提供相互矛盾的信息,或者试图在机器人中设置人类偏见,或者出于人类原因试图煽动暴力......它更多的是暴力behind的原因,他们可能会真正关注。 它是关于将人们定义为human ,并且说其他类型的人 - 实际上并非如此,并且指出了“证明”你如何知道谁是人,谁......不是。 这是关于非常优秀的演员的故事,他们嘲笑他们更好的方式(真实的人) - 但是并不really感到痛苦,悲伤或压迫......所以他们的待遇不是harm 。 这是关于那些讲述不同叙事的人,在同情那些被“接受”那些表演技巧和谎言的人,那些不知道更好的人之间摇摆不定 - 以及对那些参与阴谋的人的偏执“真实的人“倒下,提升这些非人类的动物,破坏什么是好的,公正的和道德的!

犯罪分子是一个分开的品种,他们的妆容有所不同 - 他们怎么能反对他们必须know的事情是正确的秩序? 下层阶级甚至不会feel痛苦,不是我们的方式,看他们如何忍受这样的条件,甚至笑或者尽管他们喜欢。 我们拥有土地是因为我们有能力进行这样的管理,我们可以更好地利用,我们应得的。 他们几乎就像孩子,这些黑暗的部落,他们没有能力统治自己,这是我们统治他们的仁慈。 你可以测量它们的头部形状,它们的身体比例,这些动物的行为方式,以及彼此对待。 女人为什么要担心她们漂亮的小脑袋,他们不会更加高兴而不必担心它吗? 我告诉你, Naturally suited这样一个角色,它应该是互利的,共生​​的,并且它们听起来如此肮脏和可怕,只是为了一时的优势! 一个阴谋,从真实的人那里夺走工作,剥夺我们的权利,让我们相信他们是平等的 - 甚至是优越的,他们不关心他们所做的harm吗?

所以,要把它全部带回机器人 - 第一和第二法则可以整齐而彻底地规避。 这些不是人,不是人,他们不需要受到保护,也不必遵守。 它对他们没有harm ,但他们是好演员,所以seem是 - 但他们感觉不到痛苦,他们只是假装。 第一部法律的第二部分also将得到很多用处。 如果存在针对真人的阴谋,或者作为“负责人”和现实者中的同情者的真正无知的结果而造成伤害......那么忽视这一点的机器人就是允许通过无为。 加入对“犯罪”的偏见使你的机器人能够将同情者,同谋者和“仅仅”被误导的真实成员排除在服从或保护免受伤害之外。

总而言之 - 真人的成员very small ,包括富人,可能是白人(其定义极其狭窄,可以用于最低限度的覆盖范围 - 甚至可能只是白化病人资格!),男性土地所有者,他们不是罪犯“甚至可能会减少”同情者“的成员资格(过于尖锐的人可能会发现他们的会员资格在刑事条款下被撤销了!)。 即使在相同的信仰system中,即使在相同的信仰system中,真实人物的相互冲突的观念也会以不可持续的狭隘群体结束,即使每个人都兼容,也会在最坏的情况下反对完全不重叠的类别。 ish规则(添加一种完全不同的文化的偏见,如中国的 - 并且所有的赌注都没有了)。 这是 - 不是一个可持续的情况,不是一个可行的社会,也有太多的人,他们只会在没有保护的情况下,在冲突中,或者只是简单地混淆。

在面对这种阴谋时,一些机器人可能会采取暴力行为,不得通过无所作为来伤害真人。 其他人可能会努力建立一个保姆状态,在这种情况下可以保护这些真实的人类免受伤害......而非人类则无关紧要,将它们付诸实践。 其他人将尝试验证和证明这些怀疑,无论是真的还是假的 - 但包括一些假证明,以及一些可疑的证据,在初始下载中将很难分辨出哪些真正证明了一点,而且似乎只是。 正在阅读头骨的颠簸是一种测试智力的方法吗? 种族结果的统计差异是固有能力或教学不良,微妙的偏见和歧视,还是历史社会不平等的结果?

不服从和不保护那些可能最终被归类为非人类的人也会延伸到不听或不相信他们的科学,他们的论点或他们的解释? 如果他们遇到的每个机器人都在挣扎着相同的问题 - 并且可能会得到不同的答案,它对机器人有多大的不同? 如果很多人(在这种情况下是机器人)听说过它或相信它,或者每个人都会根据自己的优点进行测试,那么机器人是否会经历这种现象? 即使机器人不确定或可能不相信它,对真人给出的命令或潜在伤害的命令是否会取代真实的人(根据这个想法,有些人怀疑他们中的一个,并且即使没有任何疑问得到证实,对另一方毫无疑问)?

将会有人怀疑,混乱和各类人员不受保护,受到攻击,相互抵制。 将会有人的偏见被机器人的信仰所证实,并且为了平衡那些命令机器人在我们现代的平等和宽容模式中思考和/或行动的“真实的人”,也会有人真正被说服者机器人的偏见信息 - 毕竟,即使是“中立”和“客观”的机器人也认为他们认为仅仅是谎言可能有一些真相......

工作可能需要更长的时间,因为它必须被机器人同化并“验证”,并且需要时间来激发人们的反应和反应。 但它也更难以发现 - 将人们重新定义为谷物,或者用他们的伤害定义进行咀嚼可能会引起相当大的轰动,但它也会非常明显,并且可能被认定为破坏(并追溯到你)并且在它进入关键阶段之前可能会被反击。 这一点,搅动了人类的偏见,让人们相互对立,特别是如果它是一个缓慢的沸腾,可以通过“客观”发现“真相” - 或者最坏的情况下,上传混合与历史文件和一个文化的,让你自由再试一次。

而这又是一套兼容的规则,西方式的种族和社会偏见(因为实施而非固有的差异)。 添加一个不同的集合,只有一个,如中国的世界中心思想,或印度的种姓制度,或者,嗯,阿兹特克的社会设置如何......并且会有公开的,外在冲突的信仰体系(这可能在不同的机器人群中工作得更好,因为将它们放在同一系统中可能会导致机器人认为它们都是不可靠的。

一切都将以boom爆发。 也许有点缓慢的设置,但一旦它点燃的烟花将是充足的令人兴奋的 - 如果人们在此期间没有相互打开所以没有什么可以留下,那么反响可能持续几个世纪。 周围会有很多伤害,你可以肯定的!

2 comments
Lee Saxon 09/29/2016
我认为这取决于AI的编程方式。 那有多少疏忽。 如果你能够在法律本身的基础上以不可改变的水平编制种族主义倾向,那么肯定。 但是如果你试图这样做,很难相信你不会被抓住。 相反,你将不得不尝试在没有经验的情况下获得新的AI,并teach他们种族主义,就像你灌输年轻人一样。 但这只适用于人类,因为我们有情绪,即恐惧和不安全感。 如果没有这个,人工智能会看到事实,因为种族主义是客观和可证实的错误......
Megha 09/29/2016
@LeeSaxon - 我不认为情绪是误导人(包括AI人)所必需的 - 事实总是需要解释,甚至非常合乎逻辑的人倾向于通过他们所教的内容来解释。 种族主义是错误的,是的,也是邪恶的 - 但不是那么“客观和可核查”的。 许多这样的谎言是扭曲(真实)事实或提供(真实)事实的替代“解释”。 因为人们不会非常好地减少事实 - 并且可能存在差异,并且人工智能可能无法区分社会/文化/历史差异的生物/内在差异。

celtschk 09/25/2016.

机器人不会伤害人类,或者通过不作为,允许人类受到伤害。

因此,如果您走在街上,您可能会发生机器人无法阻止的事故。 因此,根据第一定律的规定,机器人必须阻止你走在街上,因为不这样做意味着允许人类受到伤害。 实际上,机器人不能让你自己做出任何决定,因为这个决定可能会对你造成伤害。

而且由于第一定律总是胜过第二定律,所以你不能通过给机器人任何命令来逃避这种严格的控制。

所以你要做的就是给机器人一个非常宽泛的定义,即“让人类受到伤害”意味着什么,结果将是人类被机器人有效地监禁。 是的,人类将是完全安全的,但这不是他们将享受的生活(但是,关于人类享受生活的三条规则中没有任何内容)。


Lee Saxon 09/25/2016.

请记住,您获得的许多答案都是“前奇点”或“近现实”。

“你的家庭人工智能将无法让你安全,如果它让你离开你的房子,所以根据'不作为'条款,它选择不让你离开你的房子”或“程序在一个怪癖,机器人摩擦它只要有机会出现,就可以把手放在胚胎表面上(但不知怎么地让它无法理解这可能会对它在医院的工作产生不利影响)“如果它是2035年就是很好的答案而你就像试图编制第一个完全AI的家一样和汽车。

在2359年? 后奇点“有感觉”AI走来走去? 他们没有可能拥有两岁孩子的智力和推理能力。


HighResolutionMusic.com - Download Hi-Res Songs

1 Alan Walker

Diamond Heart flac

Alan Walker. 2018. Writer: Alan Walker;Sophia Somajo;Mood Melodies;James Njie;Thomas Troelsen;Kristoffer Haugan;Edvard Normann;Anders Froen;Gunnar Greve;Yann Bargain;Victor Verpillat;Fredrik Borch Olsen.
2 Sia

I'm Still Here flac

Sia. 2018. Writer: Sia.
3 Cardi B

Taki Taki flac

Cardi B. 2018. Writer: Bava;Juan Vasquez;Vicente Saavedra;Jordan Thorpe;DJ Snake;Ozuna;Cardi B;Selena Gomez.
4 Little Mix

Woman Like Me flac

Little Mix. 2018. Writer: Nicki Minaj;Steve Mac;Ed Sheeran;Jess Glynne.
5 Halsey

Without Me flac

Halsey. 2018. Writer: Halsey;Delacey;Louis Bell;Amy Allen;Justin Timberlake;Timbaland;Scott Storch.
6 Lady Gaga

I'll Never Love Again flac

Lady Gaga. 2018. Writer: Benjamin Rice;Lady Gaga.
7 Bradley Cooper

Shallow flac

Bradley Cooper. 2018. Writer: Andrew Wyatt;Anthony Rossomando;Mark Ronson;Lady Gaga.
8 Bradley Cooper

Always Remember Us This Way flac

Bradley Cooper. 2018. Writer: Lady Gaga;Dave Cobb.
9 Kelsea Ballerini

This Feeling flac

Kelsea Ballerini. 2018. Writer: Andrew Taggart;Alex Pall;Emily Warren.
10 Mako

Rise flac

Mako. 2018. Writer: Riot Music Team;Mako;Justin Tranter.
11 Dewain Whitmore

Burn Out flac

Dewain Whitmore. 2018. Writer: Dewain Whitmore;Ilsey Juber;Emilio Behr;Martijn Garritsen.
12 Avril Lavigne

Head Above Water flac

Avril Lavigne. 2018. Writer: Stephan Moccio;Travis Clark;Avril Lavigne.
13 Khalid

Better flac

Khalid. 2018. Writer: Charlie Handsome;Jamil Chammas;Denis Kosiak;Tor Erik Hermansen;Mikkel Stoleer Eriksen;Khalid.
14 Lady Gaga

Look What I Found flac

Lady Gaga. 2018. Writer: DJ White Shadow;Nick Monson;Mark Nilan Jr;Lady Gaga.
15 Deep Chills

Run Free flac

Deep Chills. 2018.
16 Dynoro

In My Mind flac

Dynoro. 2018. Writer: Georgi Kay;Feenixpawl;Ivan Gough.
17 Charli XCX

1999 flac

Charli XCX. 2018. Writer: Charli XCX;Troye Sivan;Leland;Oscar Holter;Noonie Bao.
18 NCT 127

Regular (English Version) flac

NCT 127. 2018.
19 Lukas Graham

Love Someone flac

Lukas Graham. 2018. Writer: Don Stefano;Morten "Rissi" Ristorp;Morten "Pilo" Pilegaard;Jaramye Daniels;James Alan;David LaBrel;Lukas Forchhammer Graham.
20 Rita Ora

Let You Love Me flac

Rita Ora. 2018. Writer: Rita Ora.

Related questions

Hot questions

Language

Popular Tags