TUM（慕尼黑工业大学）开发的自动驾驶软件是第一个考虑欧盟委员会20项道德建议的算法。这使其能够做出比以前的算法更具差异化、更权衡的决策。
在自动驾驶车辆在全国上路之前，不仅要完成技术实施。道德问题在算法的发展中也起着重要作用。例如，软件必须能够处理不可预测的情况，并在即将发生事故时做出必要的决定。
慕尼黑工业大学的研究人员现在首次开发出一种道德算法，该算法并不按照“非此即彼”的传统方式，而是公平地分配风险。测试了大约 2，000 个危急情况的场景 – 分布在欧洲、美国和中国等不同类型的道路和地区。这项研究发表在《自然机器智能》杂志上，是与慕尼黑工业大学人工智能伦理研究所（IEAI）的汽车工程和商业道德主席合作进行的。
指导软件风险评估的道德框架是在 2020 年欧盟委员会委托的专家小组的推荐信中定义的。它包括保护易受伤害的道路使用者和在整个道路交通中分配风险等原则。
一个例子说明了这种方法：一辆自动驾驶汽车想要超越一辆自行车，一辆卡车正从对面的车道驶来。如今，可以查阅有关环境和参与者的所有可用数据。可以在不驶入迎面而来的车道同时与自行车保持足够距离的情况下超车吗？哪辆车有什么风险，这些车辆对自己有什么风险？
当有疑问时，配备新软件的自动驾驶汽车将始终等到每个人都能接受风险。避免了激进的机动，同时自动驾驶汽车不会突然陷入冲击和制动状态。“是”和“否”不起作用，而权衡包括许多选项。
研究人员强调，即使是按照风险道德行事的算法也可以涵盖所有可能的情况，并根据道德原则做出决定，但它们仍然不能保证道路交通无事故。将来，在道德决策中还必须考虑文化差异等进一步的差异。
未来，该软件还将使用EDGAR研究车在道路上进行测试。该代码结合了研究工作的结果，以开源形式提供。
