MIT 연구진이 생성 인공 지능 모델이 위험도가 높은 문제에 대한 해결책을 찾는 데 도움이 되는 새로운 기술을 개발했습니다.
이러한 설정에서는 그럴듯한 답변만으로는 충분하지 않습니다. 결과는 종종 엄격한 제약 조건으로 알려진 협상할 수 없는 안전, 물리적 또는 작업별 요구 사항도 충족해야 합니다.
연구자들은 생성 모델이 결과의 품질을 저하시키지 않으면서 이러한 엄격한 요구 사항을 충족하는 데 도움이 되는 방법을 개발했습니다.
이들 기술의 핵심은 생성 과정에서 모델에 더 많은 자유를 부여하고 각 중간 단계가 아닌 최종 결과에 엄격한 제약을 가하는 것입니다.
로봇 공학, 물리적 프로세스 제어 및 컴퓨터 비전과 관련된 실험에서 새로운 방법은 기존 기술보다 더 나은 솔루션을 식별하는 동시에 필요한 제약 조건을 일관되게 충족했습니다.
이 적응형 플러그 앤 플레이 기술은 배포 시 작동하므로 재교육 없이 사전 교육된 생성 모델에 적용할 수 있습니다. 이는 안전 규칙, 물리적 법칙 또는 기타 엄격한 요구 사항을 위반할 수 없는 응용 분야에서 이러한 모델을 더욱 유용하게 만들 수 있습니다.
“생성 AI의 약속은 풍부한 가능성의 공간을 탐색하는 능력이지만 현실 세계에서는 허용 가능한 가능성에 제한이 있습니다. 우리의 접근 방식을 통해 우리는 위험이 크거나 안전이 중요한 애플리케이션의 협상 불가능한 요구 사항을 적용하면서 생성 능력을 보존할 수 있습니다.”라고 경력 개발 및 기계 데이터 및 기계 공학 연구소의 Jean M. Hayes 부교수인 Navid Azizan 박사와 Jean M. Hayes는 말합니다. (IDSS)는 LIDS(정보 및 의사결정 시스템 연구소)의 수석 연구원이자 이 기술에 관한 논문의 주요 저자입니다.
Azizan은 기계 공학 및 LIDS 대학원생인 수석 저자 Zeyang Li가 논문에 합류했습니다. IDSS 및 LIDS 대학원생 Kaveh Alim이 있습니다. 이 연구는 이번 주에 나타납니다. 패턴 분석 및 기계 지능에 관한 IEEE 거래.
탐험의 자유
Stable Diffusion과 같은 확산 모델과 FLUX와 같은 플럭스 매칭 모델과 같은 사전 훈련된 생성 AI 모델이 이제 널리 사용 가능합니다. 이 강력한 모델은 무작위 노이즈를 변환하여 새로운 데이터를 생성하는 방법을 학습합니다. 이러한 가용성 덕분에 사람들은 이를 다양한 응용 분야에 적용할 수 있었습니다.
이러한 고성능 모델은 대부분의 질문을 만족시키는 답변을 제공하는 데 뛰어나지만 바쁜 공장의 로봇 경로 계획과 같이 안전이 중요한 애플리케이션에서는 “올바른 답변”만으로는 충분하지 않을 수 있습니다.
예를 들어, 한 기계에서 다른 기계로의 “거의 정확한” 경로는 여전히 로봇이 인간 동료와 충돌하는 결과를 가져올 수 있습니다.
이러한 안전이 중요한 응용 분야에서 사용자는 중간 샘플이라고 하는 부분 모델 솔루션이 생성 프로세스 중에 엄격한 요구 사항을 반복적으로 충족하도록 하는 투영 기반 샘플링이라는 기술을 사용하는 경우가 많습니다.
그러나 전체 생성 프로세스를 제한하면 모델이 더 나은 최종 솔루션에 도달하지 못할 수 있습니다. 또한 이러한 방법은 일반적으로 엄격한 제약 조건을 충족하는 데에만 초점을 맞추고 로봇의 궤적 길이를 줄이는 등 솔루션의 다른 품질을 향상할 수 있는 기회를 놓치게 됩니다.
“제약 조건을 만족시키기 위해 결국 중요한 것은 모델의 최종 출력입니다. 내부 프로세스가 제거되기 때문입니다. 제약 조건을 충족하기 위해 모든 중간 단계를 요구하지 않음으로써 모델이 여전히 궁극적으로 실행 가능한 고품질 솔루션을 찾을 수 있는 더 많은 자유를 제공합니다”라고 Li는 말합니다.
연구원들은 최종 결과가 지나치게 제한적이지 않고 고품질이 아닌 사용자의 엄격한 제약 조건을 충족할 수 있도록 샘플링 프로세스를 안내하는 HardFlow라는 알고리즘을 개발했습니다.
미묘한 방향
HardFlow는 최적 제어 분야의 도구를 사용하여 궤적 최적화 문제로 엄격하게 제한된 샘플링을 재구성합니다. 이를 통해 프레임워크는 모델의 샘플링 궤적을 목표를 향해 조종하고 그 과정에서 미묘한 수정을 가하며 최종 결과에 엄격한 제약을 가할 수 있습니다.
“제어 이론은 이러한 수정을 수행하는 최적의 방법을 공식화하기 위한 강력한 프레임워크를 제공합니다”라고 Azizan은 말합니다.
하지만 거대한 신경망 주변의 궤적 최적화 문제를 해결하는 것은 쉬운 일이 아니었습니다. 모델에는 데이터를 처리하는 수백 개의 상호 연결된 레이어가 있을 수 있습니다.
문제를 해결할 수 있도록 만들기 위해 연구원들은 흐름 일치 모델의 구조를 사용하여 문제를 일련의 더 작은 단일 단계 하위 문제로 분해했습니다. 그런 다음 그들은 여전히 실행 가능한 솔루션을 찾는 효율적이고 확장 가능한 알고리즘을 얻기 위해 체계적인 변환과 근사치를 적용했습니다.
“기본적으로 우리는 궤적 최적화 문제를 원래 문제의 핵심 속성을 유지하면서 구현 시 매우 효율적으로 해결할 수 있는 문제로 변환했습니다.”라고 Azizan은 덧붙입니다.
작업을 최적화 문제로 재구성하면 HardFlow가 최종 답변의 품질을 향상시킬 수 있는 추가 목표를 통합할 수 있습니다. 예를 들어, HardFlow는 목표까지의 최단 거리인 로봇의 충돌 없는 경로를 찾을 수 있습니다.
“우리 프레임워크는 두 가지 측면을 함께 처리할 수 있어 기존 방법보다 훨씬 더 나은 성능을 발휘하는 데 도움이 됩니다.”라고 Li는 말합니다.
로봇 조작, 미로 탐색 및 텍스트 안내 이미지 편집 실험 전반에 걸쳐 HardFlow는 완벽한 제약 조건 만족을 달성하는 동시에 솔루션 품질 측정에 대한 기본 방법보다 지속적으로 뛰어난 성능을 발휘했습니다.
예를 들어, 로봇 매니퓰레이터는 장애물과의 충돌을 피하면서 대상 물체까지 가장 빠른 경로를 찾을 수 있었습니다. 대부분의 다른 방법은 충돌이 발생하거나 훨씬 더 오래 걸리는 경로를 찾았습니다.
또한 HardFlow의 계산 시간은 대부분의 경쟁 방법과 비슷하거나 그보다 짧았습니다.
앞으로 연구자들은 AI 모델 자체도 업데이트할 수 있는 설정으로 프레임워크를 확장하여 제약 조건 만족과 샘플 품질을 보다 적응적인 방식으로 향상시킬 수 있습니다.
