컴퓨터 한 대로 게임하면서 유튜브나 방송 송출, 녹화까지 같이 돌리다 보면 유독 화면이 뚝뚝 끊길 때가 있습니다. 이상한 건 내 모니터에서는 게임이 120프레임 넘게 아주 매끄럽게 돌아가는데, 막상 송출 화면이나 녹화본을 열어보면 프레임이 심하게 밀려 있다는 점이죠. 반대로 방송 프로그램만 켜면 게임에 인풋랙이 생기거나 버벅이기도 하고요.
컴퓨터 사양이 부족해서 그런가 싶어 업그레이드부터 고민하게 되는데, 사실 고사양 PC에서도 세팅 하나만 어긋나면 똑같은 현상이 생깁니다. 윈도우랑 방송 프로그램(OBS) 사이에서 그래픽카드 자원을 서로 먼저 쓰겠다고 부딪히는 게 진짜 원인이거든요.
직접 굴려보면서 화면 끊김 싹 잡았던 OBS와 윈도우 실전 세팅법을 알기 쉽게 정리해 드립니다.
1. 인코더 선택: 나는 뭘 골라야 할까?
원컴 방송 세팅의 기본 원칙은 딱 하나입니다. 게임이 쓰는 자원과 방송 프로그램이 쓰는 자원을 서로 안 겹치게 갈라놓는 것입니다.
- NVIDIA NVENC (무조건 1순위 추천): 지포스 그래픽카드를 쓰고 있다면(GTX 1660 이상, RTX 30/40/50번대) 고민할 필요 없이 NVENC를 쓰시면 됩니다. 게임 3D 그래픽을 돌리는 연산 장치와 영상 인코딩 전용 칩이 그래픽카드 안에서 물리적으로 아예 따로 분리되어 있어서, 게임 프레임에 거의 영향을 주지 않습니다.
- x264 (CPU 인코딩): CPU 힘으로 영상을 압축하는 방식입니다. 라이젠 9나 인텔 i9처럼 코어 수가 아주 넉넉한 CPU를 쓰면서, 그래픽카드 VRAM이 꽉 차는 스팀 AAA급 고사양 게임을 돌릴 때 가끔 대안으로 씁니다. 다만 웬만한 환경에서는 CPU 온도만 치솟고 게임 프레임 방어가 힘들어 원컴에서는 잘 권하지 않습니다.
2. 어디서 렉이 걸리는지 10초 만에 확인하는 법
설정을 이것저것 건드리기 전에, 내 방송이 어느 단계에서 밀리는지부터 봐야 헛고생을 안 합니다.
OBS 상단 메뉴에서 [보기] > [통계] 창을 띄워놓고 게임을 평소처럼 5분 정도 플레이해 보세요.
- 렌더링 지연으로 인한 프레임 손실: 게임 화면, 캠, 채팅창 오버레이를 한 화면으로 합치는 과정에서 그래픽카드 여유가 없을 때 뜹니다.
- 인코딩 지연으로 인한 프레임 건너뜀: 합쳐진 영상을 방송용 파일로 압축하는 인코더 칩에 과부하가 걸렸을 때 뜹니다.
- 네트워크 프레임 드랍: 인터넷 업로드 회선이 불안정하거나 통신사 망이 튀는 문제입니다.
대부분 1번이나 2번에서 숫자가 빨갛게 올라갈 텐데, 아래 세팅만 순서대로 따라 하시면 거의 0%로 떨어집니다.
3. 실전 최적화 세팅 4단계
1.1단계: OBS ‘관리자 권한’으로 실행하기:이거 하나로 끊김 80%는 잡힙니다.
윈도우 10이나 11은 전체 화면 게임이 켜지면 그래픽카드 자원을 그 게임에 전부 몰아주도록 설계되어 있습니다. 그러다 보니 OBS가 화면을 합성하는 데 필요한 아주 적은 자원(1~2%)조차 못 가져와서 방송 화면이 끊깁니다.
- 바탕화면의 OBS Studio 아이콘 우클릭 > [속성] 클릭
- 상단 [호환성] 탭 클릭
- 아래쪽 [관리자 권한으로 이 프로그램 실행] 체크 후 [확인]
이렇게 해두면 윈도우가 “아, 이 프로그램은 게임보다 먼저 그래픽카드 자원을 줘야 하는구나” 하고 알아서 자원을 챙겨줍니다.
2.2단계: 게임 내 최대 프레임 상한선 걸기:GPU 사용률 90~95% 유지가 핵심.
그래픽카드가 99%나 100%로 계속 쥐어짜이고 있으면, 아무리 관리자 권한을 줘도 인코더 칩으로 화면을 넘겨주는 길목에서 병목이 생깁니다.
- 게임 내 그래픽 옵션이나 NVIDIA 제어판에서 **최대 프레임 속도(FPS 제한)**를 꼭 걸어주세요.
- 144Hz 모니터를 쓴다면 141~143프레임 정도로, 60Hz 모니터라면 60프레임으로 고정합니다.
- 작업 관리자에서 그래픽카드 사용률이 상시 90~95% 안팎에 머물도록 여유를 조금 남겨두어야 교전이나 대규모 전투 장면에서도 방송 화면이 안 튑니다.
3.3단계: OBS 출력 설정 가볍게 다듬기:욕심부리지 않는 안정적인 값.
화질 욕심에 무작정 프리셋을 최고치로 올려두면 그래픽카드가 버거워합니다. 체감 화질 차이는 거의 없으면서 부하는 확 줄여주는 권장 세팅입니다.
- 출력 방식: 고급
- 인코더: NVIDIA NVENC H.264 (플랫폼이 지원하면 AV1)
- 사전 설정(Preset): P5: Slow (Good Quality) 추천(P6, P7은 화질 눈으로 구분하기 힘든데 인코더 발열과 전력만 엄청 잡아먹습니다.)
- 조정(Tuning): 고품질(High Quality)
- 다중 패스 모드: 2패스 (1/4 분해능)
- 사전 판독 (Look-ahead): 반드시 체크 해제! (그래픽카드 연산 코어를 끌어다 쓰는 주범이라 원컴에서는 꺼야 합니다.)
- 정신시각각 보정 (Psycho Visual Tuning): 체크 유지 (화면 빠르게 돌아갈 때 깍두기 현상을 막아줍니다.)
- 최대 B-프레임: 2
4.4단계: 윈도우 백그라운드 캡처 비활성화:윈도우 자체 녹화 기능 끄기.
윈도우 자체에 들어있는 화면 녹화 기능(Xbox Game Bar)이 켜져 있으면, OBS가 쓰고 있는 그래픽카드 인코더를 윈도우가 뒤에서 몰래 같이 쓰려고 하면서 충돌이 납니다.
- 키보드
Win + I눌러서 [설정] > [게임] > [캡처] 이동 - [내가 게임을 플레이할 때 백그라운드에서 녹화] 옵션을 완전히 **[끔]**으로 변경
- 단, [게임 모드] 탭에 있는 게임 모드는 그대로 [켬] 상태로 둡니다.
마무리 점검
세팅을 다 끝냈다면 평소 하던 게임 중 가장 사양 높은 맵이나 교전 상황에 들어가서 10분 정도 플레이해 보세요.
OBS 통계 창에서 렌더링/인코딩 프레임 손실이 0.1% 미만으로 깔끔하게 유지되고 있다면 완벽하게 세팅된 상태입니다. 원컴 방송은 무조건 그래픽카드에 3~5% 정도의 ‘숨 쉴 틈’을 남겨두는 게 핵심이라는 점만 기억하시면 방송 끊김 걱정 없이 쾌적하게 돌리실 수 있습니다.