모벤MOVE BEYOND
상담 요청

공개된 페이지는 크롤링해도 되나 — 국내 판례가 갈린 지점과 수집기 기본값

무죄로 확정된 사건과 손해배상이 확정된 사건을 나란히 놓고, 결론을 가른 축(반복적·체계적 복제)과 수집기 기본값, 남겨야 할 로그를 정리했습니다.

크롤링 · robots.txt · 저작권4분

"공개된 페이지니까 괜찮다"는 판단은 국내 판례로 보면 절반만 맞습니다. 결론을 가른 축이 공개 여부가 아니었기 때문입니다.

무죄 사건과 침해 인정 사건이 함께 있다

한쪽에는 정보통신망 침해·컴퓨터등장애업무방해·저작권법 위반 3개 혐의가 모두 무죄로 확정된 사건이 있습니다(대법원 2022. 5. 12. 선고 2021도1533). 판시가 든 사정은 ①비회원도 접근할 수 있었고 별도 접근 보호조치가 없었다 ②복제된 정보가 데이터베이스의 상당한 부분이 아니었다 ③시스템 장애가 발생하지 않았다는 점입니다. 다만 1심 유죄가 항소심에서 뒤집힌 사건이라, 착수 전에 미리 보장받을 수 있는 결론은 아닙니다.

다른 쪽에는 데이터베이스제작자의 권리 침해가 인정돼 간접강제금 2억 원과 손해배상 2억 5천만 원이 확정된 사건이 있습니다(서울고등법원 2017. 4. 6. 선고 2016나2019365, 상고심 심리불속행 기각).

갈린 축은 저작권법 제93조 제2항 단서입니다. 상당한 부분에 이르지 못하는 부분이라도 반복적이거나 특정한 목적을 위해 체계적으로 복제해 그 데이터베이스의 일반적 이용과 충돌하면 상당한 부분을 복제한 것으로 봅니다. "1시간마다 자동 수집"은 정의상 반복적·체계적입니다.

수집기 기본값은 실행 경로마다 다르다

Scrapy 기준으로 startproject가 만들어 주는 settings.py는 ROBOTSTXT_OBEY=True, DOWNLOAD_DELAY=1, CONCURRENT_REQUESTS_PER_DOMAIN=1입니다. 반면 그 파일을 거치지 않는 라이브러리 기본값은 ROBOTSTXT_OBEY=False, DOWNLOAD_DELAY=0, 도메인당 동시 요청 8입니다. AutoThrottle도 기본이 꺼짐이고, 켜야 시작 지연 5.0초·최대 지연 60.0초·목표 동시성 1.0으로 움직입니다. 같은 코드가 실행 경로에 따라 정반대로 동작합니다.

남는 증거는 로그와 노출 형태다

저희가 자체 제작해 배포한 수집 컴플라이언스 데모에서는 robots.txt 취득·파싱 결과, 요청 간격, 429 응답 뒤 백오프를 시계열로 기록합니다. 노출은 본문 전재 대신 제목과 앞부분에 원문 링크를 붙이는 아웃링크 구조로 뒀습니다. 링크도 종류마다 판단이 갈립니다 — 저작권 보호 공공기관의 예방 가이드북은 단순 링크와 직접 링크는 침해로 보지 않고, 프레임 링크·임베디드 링크는 다르게 다룹니다.

(사실 정리와 설계 관점이며 법률 자문이 아닙니다.)

다른 노트

홈페이지 제작 견적이 업체마다 갈리는 이유 — 저희 계산식을 그대로 공개합니다같은 요구사항을 보냈는데 견적이 두세 배 벌어지는 건 대개 단가가 아니라 범위 때문입니다. 저희가 구간 견적을 만들 때 쓰는 덧셈 산식과, 곱셈 계수를 쓰지 않는 이유를 적었습니다.웹 외주 계약서에서 실제로 다투게 되는 다섯 줄분쟁은 대개 기술이 아니라 문장에서 시작합니다. 검수 합격 조건, 하자보수 기산점, 지식재산권 이전 시점, 범위 변경의 효력 형식, 유지보수 분리 — 착수 전에 맞추면 되는 다섯 줄입니다.사내 시스템·ERP를 외주로 만들 때 비용이 갈리는 지점ERP·그룹웨어는 화면 수로 견적이 나오지 않습니다. 조직·권한·결재선·마스터데이터·감사 로그가 화면을 세우기 전에 먼저 깔리기 때문입니다. 그래서 이 계열만 견적에 하한을 따로 뒀습니다.웹소켓 서버가 며칠에 한 번 OOM으로 죽는다면 브로드캐스트 목록부터 본다간헐 OOM은 전송 로직이 아니라 끊긴 연결이 남아 있는 브로드캐스트 대상 목록에서 시작하는 경우가 많습니다. 확인 순서와, 동시성 결함을 재현으로 잡는 방법.RAG 정확도 96%는 무엇을 잰 숫자인가 — 채점 기준과 근거 출력정확도 숫자를 채점 기준과 함께 적고, 남은 오답을 검색·생성·채점으로 나누고, 계산된 값 옆에 근거와 파라미터 버전을 붙이는 방법.

비슷한 문제를 앞두고 계시면, 저희가 만들어 둔 화면을 먼저 열어 보시는 편이 빠릅니다.