立项评审通过 创新训练 520计算机科学技术 理论研究-科学技术未定级

在当前的人工智能研究中，多模态大模型（Multimodal Large Models）作为一种新兴的技术，通过整合来自图像、文本、音频等多种数据源的信息，展现出强大的跨模态任务处理能力。这些模型不仅能够在单一领域内提供精确的分析和生成结果，还能在复杂的多模态环境中实现更加丰富和全面的理解。然而，随着多模态数据复杂性和多样性的增加，如何保证生成内容的安全性和可靠性，成为了一个亟待解决的问题。生成式大模型在实际应用中，如果不能确保其输出的内容安全无害、符合人类价值观，可能会带来一系列伦理和安全问题。本项目的主要目的是确保多模态大模型生成内容的安全性和可靠性，符合人类价值观。通过研究多模态数据对大语言模型安全对齐的影响及其内在扰动机理，并提出相关对齐算法进行实现与测试，最终实现多模态大模型在实际应用中的安全可靠。这不仅有助于提升人工智能系统的安全性，也为相关领域的研究和应用提供了技术支持。