자료채보Andrew Carlins•읽는 데 7분

Gemini나 Claude로 노래를 악보로 만들 수 있을까요?

예전에는 ChatGPT에 부탁하던 일을 이제 Gemini와 Claude에 맡기는 사람이 늘고 있어요. 녹음을 악보로 바꿔 달라는 거예요. 두 AI 도우미가 오디오를 다루는 범위에는 한계가 있어요. 정확한 악보를 얻으려면 전용 채보 도구를 써야 해요.

Google Gemini와 Anthropic Claude가 노래를 악보로 바꿀 수 있는지, AI 도우미가 오디오로 하는 일과 대신 쓸 도구를 설명하는 이미지

음악 채보 도구 선택 가이드에 포함된 글이에요.

Gemini나 Claude만으로는 어려워요. 둘 다 녹음을 듣고 정확한 악보를 만들지 못하고 인쇄된 악보의 음표를 하나하나 정확히 읽지도 못해요. 지금은 텍스트만 다루던 챗봇보다 훨씬 많은 일을 해요. Gemini에는 오디오와 이미지를, Claude에는 이미지와 텍스트를 줄 수 있죠. 하지만 두 모델은 말소리를 글로 옮기고 사진을 설명하고 텍스트를 바탕으로 추론하는 등 내용을 이해하는 데 맞춰져 있어요. 음악을 악보로 옮기는 데 필요한 신호 처리와는 달라요. 노래를 채보해 달라고 하면 자연스럽고 확신에 찬 답변이 나오지만 실제로 연주하지 않은 음이 가득해요.

음악을 글로 다루는 일에는 둘 다 도움이 돼요. 이론을 설명하거나 붙여 넣은 악보를 함께 살펴보고 코드 진행을 제안해요. 단선율을 간단히 적거나 연습 계획을 짜는 일도 해요. 하려는 작업 중 어디까지가 말이나 글로 다룰 일인지, 어디서부터 소리를 악보로 바꿔야 하는지 구분하면 돼요. 설명과 논의에는 채팅 모델을, 녹음의 채보에는 전용 도구를 쓰는 거예요.

Gemini와 Claude로 할 수 있는 음악 작업

두 모델 모두 이제 텍스트 외의 자료도 다뤄요. Gemini는 처음부터 여러 종류의 입력을 함께 다루도록 만들어졌어요. 오디오 파일을 올리면 말을 글로 옮기고 녹음 내용을 요약하고 누가 말하는지 구분하고 대화 내용에 관한 질문에 답해요. 이미지도 받아들여요. Claude는 텍스트와 이미지를 다루고 건넨 사진이나 문서를 읽어요. 그래서 어느 쪽이든 악보 사진을 보여 주면 보고 답할 수 있어요. 파일을 보거나 듣는 것과 정확한 악보로 옮기는 것은 별개의 능력이에요.

텍스트와 이론을 다루는 다음 작업에는 둘 다 유용해요.

  • 코드 진행이 왜 그렇게 해결되는지, 트라이톤 대리가 무엇인지, 단음계에 화음을 어떻게 붙이는지 물어보세요. 대체로 믿을 만하고 명확한 설명을 들을 수 있어요.
  • ABC 표기나 코드 차트를 붙여 넣거나 구간을 말로 설명하면 코드를 짚고 그 구간에서 무슨 일이 일어나는지 풀이하고 바꿔 볼 부분을 제안해요.
  • 원하는 분위기나 조성을 말하면 시도해 볼 코드 진행, 리하모니제이션, 베이스 라인을 제안해요.
  • 멜로디를 말로 설명하면 ABC 같은 텍스트 표기로 적어 줘요. 악보 편집기에 붙여 넣어 쓸 수 있어요.

모두 텍스트나 설명에서 시작하고 쓸 만한 결과도 텍스트로 나와요. 모델은 음악 기호를 바탕으로 추론해요. 소리나 인쇄된 악보를 정확한 음표로 변환하는 작업은 하지 않아요. ‘이 녹음을 악보로 만들어 줘’라고 요청하는 순간 두 모델의 능력을 벗어나요.

녹음을 채보하지 못하는 이유

오디오를 악보로 바꾸는 것은 어려운 신호 처리 작업이에요. 모든 음의 높이를 감지하고 각 음이 정확히 언제 시작하고 끝나는지 찾아야 해요. 코드나 전체 믹스에서 동시에 겹쳐 울리는 음도 분리해야 하죠. 그다음에는 각 음의 시점과 길이를 퀀타이즈해서 읽기 좋은 리듬으로 정리하고 알맞은 조표와 박자표를 붙여 오선에 옮겨요. 각 단계마다 오디오로 훈련한 전문 모델이 필요해요. Gemini의 오디오 이해는 단어, 말하는 사람, 의미처럼 말소리를 다루는 데 맞춰져 있어요. 동시에 울리는 음높이를 분리하고 각 음의 시작점을 찾는 데 맞춰져 있지는 않아요. Claude는 애초에 오디오 파일을 받지 않으므로 별도의 변환 과정을 거쳐야 노래 내용을 전달받아요.

인쇄된 악보를 읽는 일에서도 비슷한 문제가 생겨요. 연구자들이 이 작업을 직접 평가했을 때 모델은 페이지의 기호를 아주 정확하게 알아보고도 대부분 잘못된 음으로 옮겼어요. 일정한 간격의 4분음표나 음계처럼 오르내리는 음을 내놓곤 했죠. 눈앞의 실제 음악보다 텍스트 패턴에 기대어 추측하기 때문이에요. 페이지를 선명하게 ‘본다’고 해도 답변에 적힌 음높이와 리듬은 악보와 달라져요.

그래도 채보를 요청하면 두 모델은 불확실한 상황에서 언어 모델이 흔히 하는 방식으로 답해요. 답변은 자연스럽고 확신에 차 있어요. 결과는 악보처럼 보이지만 아무도 연주하지 않은 음이 가득해요. 답변이 믿을 만해 보여서 결과가 아예 비어 있을 때보다 오류를 알아채기 어려워요. 실제 채보 과정의 각 단계는 AI 음악 채보의 작동 방식에서 설명해요. 동시에 겹치는 음 때문에 범용 모델이 어려움을 겪는 이유는 단선율 채보와 다성음악 채보의 차이에서 다뤄요.

대신 쓸 도구

오디오를 악보로 옮길 때는 그 작업을 위해 만든 도구를 쓰세요. Songscription에서는 오디오 파일을 올리거나 동영상 링크를 붙여 넣으면 돼요. 모델이 음을 감지하면 편집 가능한 악보와 함께 MIDI, MusicXML, Guitar Pro 탭 악보를 받아요. 조작 가능한 피아노 롤에서도 재생 속도를 낮춰 결과를 확인할 수 있어요. 음표를 직접 입력하는 과정은 없고 파일을 내보내기 전에 브라우저에서 음표를 고칠 수 있어요.

처음 나온 결과를 다듬을 때는 몇 가지 기능이 도움이 돼요. 피아노 파트는 모든 음을 한데 모으지 않고 높은 음과 낮은 음을 두 손의 파트로 자동 분리해요. 한 악기의 파트만 필요하면 전체 믹스에서 그 악기를 따로 골라 채보할 수 있어요. Multi-Instrument를 쓰면 밴드나 앙상블 녹음의 모든 파트를 한 번에 채보해요. 내장 편집기에서는 원하는 조성으로 조옮김을 해요. 편곡 모드에서는 음이 빽빽한 곡을 쉬운 난이도로 바꾸거나 원곡에 없던 악기를 위한 단선율을 만들어요. Gemini와 Claude에서 곡에 관한 설명을 받았다면 여기서는 보면서 연주하고 계속 편집할 파일을 얻어요.

정확도에는 한계가 있어요. 피아노 한 대, 기타 독주, 한 선율만 부르는 보컬처럼 소리가 또렷한 솔로 녹음은 많은 악기가 동시에 겹치는 밴드 전체 녹음보다 훨씬 정확하게 나와요. 자동 채보로 작업의 상당 부분을 빠르게 끝내도 결과를 살펴보고 틀린 곳은 고쳐야 해요. 악보 배치와 표기를 세세하게 다듬으려면 MusicXML로 내보내서 MuseScore 같은 악보 편집기로 마무리하세요. 어떤 곡은 잘 옮겨지고 어떤 곡은 까다로운지 AI 채보 정확도가 달라지는 이유에서 더 살펴볼 수 있어요.

악보를 얻은 뒤 Gemini와 Claude를 활용하는 법

악보나 코드 차트, 또는 MIDI에서 추출한 코드를 준비했다면 어느 쪽에든 다음 작업을 부탁할 수 있어요.

  • 까다로운 코드의 기호를 붙여 넣고 어떤 음으로 이뤄졌는지, 어떤 역할을 하는지, 그 위에 어떤 음계가 어울리는지 물어보세요.
  • 연주할 구간과 악기를 설명하고 시도해 볼 만한 운지나 손 위치를 물어보세요.
  • 곡과 현재 수준, 연습할 시간을 알려 주면 곡을 순서대로 익힐 연습 계획을 짜 줘요.
  • 이미 설명하거나 부를 수 있는 멜로디라면 음을 말로 전달해 ABC 표기로 적어 달라고 하세요. 그 결과를 악보 편집기에 넣으면 돼요.

채보 모델로 소리를 음표로 옮긴 뒤에는 Gemini와 Claude에 그 음들을 어떻게 해석하고 연습하면 좋을지 물어보세요. AI가 곡에 관해 어디까지 알려 줄 수 있는지는 AI에 곡 연주법을 물어봐도 될까요?에서 다뤄요. OpenAI의 모델에 관한 비슷한 질문은 ChatGPT로 악보를 만들 수 있을까요?에서 살펴봐요.

자주 묻는 질문

Gemini는 악보를 읽을 수 있나요?

대략적인 내용만 읽어요. Gemini는 이미지를 받아들이기 때문에 악보 사진이나 PDF를 보고 전체 내용을 설명하거나 조성을 짚고 음표가 빽빽한 구간을 알아볼 수 있어요. 하지만 음표를 하나씩 읽어서 정확한 음높이와 리듬으로 옮기는 일은 믿고 맡기기 어려워요. 이 과제를 직접 평가한 벤치마크에서도 기호를 잘 알아보는 모델이 실제 음표로 변환할 때는 대부분 틀렸어요. 일정한 간격의 4분음표나 음계처럼 오르내리는 음으로 바꾸는 경향이 있었고요. 인쇄된 악보를 읽어 준 결과는 정확히 옮긴 악보가 아니라 대략적인 요약으로 받아들이세요.

Claude는 노래를 악보로 옮길 수 있나요?

녹음을 악보로 옮기지는 못해요. Claude는 텍스트와 이미지를 다루기 때문에 ABC 표기나 코드 차트처럼 글로 붙여 넣은 악보를 설명하고 화성을 풀이하거나 말로 설명한 멜로디를 간단한 단선율로 적어 줄 수 있어요. 오디오 파일을 받아 정확한 악보로 바꾸지는 못해요. 소리를 음표로 바꾸려면 음높이를 감지하고 각 음이 시작되는 시점을 찾고 동시에 울리는 음을 분리해야 해요. 이런 신호 처리는 채팅 모델이 아닌 전용 채보 도구가 하는 일이에요.

Gemini나 Claude는 오디오로 MIDI 파일을 만들 수 있나요?

녹음으로는 만들지 못해요. 두 모델 모두 오디오에서 MIDI 파일을 만드는 데 필요한 음을 감지하지 않아요. 노래를 듣고 MIDI로 만들어 달라고 하면 확신에 찬 답변과 함께 틀린 데이터를 내놓아요. 멜로디를 말로 설명하면 변환에 쓸 짧은 텍스트 표기를 적어 줄 수는 있어요. 하지만 실제 녹음의 MIDI 파일이 필요하다면 음을 감지하고 파일로 바로 내보내는 전용 오디오를 MIDI로 변환하는 도구를 쓰세요.

노래를 악보로 만들려면 어떤 방법이 가장 좋나요?

오디오 파일이나 링크를 받아 편집 가능한 악보, MIDI, 피아노 롤로 바꿔 주는 AI 채보 전용 도구를 쓰고 결과를 직접 다듬으세요. 자동 채보로 작업의 상당 부분을 빠르게 끝낼 수 있어요. 소리가 또렷한 솔로 녹음은 여러 악기가 겹치는 밴드 전체 녹음보다 정확하게 나와요. 악보의 배치와 표기까지 마무리하려면 MusicXML로 내보내서 악보 편집기로 다듬으세요.

녹음을 악보로 바꾸려면 오디오를 악보로 변환하는 페이지에서 곡을 업로드하거나 링크를 붙여 넣으세요. 내보내기 전에 브라우저에서 결과를 편집하면 돼요.

글쓴이 소개

Andrew Carlins

글쓴이

Andrew Carlins

Songscription 공동 창업자 겸 CEO

앤드루는 연주하고 싶은 곡의 악보를 찾지 못해 답답했던 동료 음악가 몇 명과 스탠퍼드에서 Songscription을 공동 창업했어요. 어릴 때부터 피아노와 바리톤 색소폰을 연주하고 뮤지컬 무대에도 섰어요. 무대에 서지 않은 지 몇 년이 지났지만 아직 감각은 살아 있다고 믿고 싶어 해요. 녹음 속 곡을 악보로 옮기는 일을 글로 풀어내요.

팀 소개 더 보기

같은 주제를 다룬 다른 글도 읽어 보세요.