웹마스터 팁
300기가 Zboard4->XE 이전기
2015.02.13 21:29
오래전부터 제로보드와 XE, 워드프레스 등 CMS 를 사용해 만들고, 업그레이드하고, 이전시켜온 홈페이지가 2~300여개정도 된다. 본업은 아니지만 하나씩 알아가는 재미삼아 시작한 웹제작의 결과물이다.
이번에 의뢰받은 사이트는 꽤 규모가 있는 대형 커뮤니티사이트인데
자료를 보니 5년전 내가 구축해주었던 제로보드4로 구축된 사이트이고 이번에 여러가지 이유때문에 XE로 구축, 이전하기로 하였다
문제는 늘 수십에서 수백명이 동시접속해 있는 상태이며 데이타량만 300기가 정도 되었다.
규모가 작은 몇백메가 정도의 사이트라면 많이 해 봤기 때문에 별 두려움은 없었는데 이 사이트는 수년사이 데이타량이 엄청나게 증가하였고 잠시라도 서버가 버벅거리는 징후가 오면 게시판에 회원들의 불만이 표출되는 특성때문에 무턱대로 들이댈수 없는 형편이었다.
이 사이트는 카페24단독웹호스팅으로 운영되고 있으며 새 XE사이트 역시 새로운 서버를 구성해 카페24내에 구축해두었다.
이제 데이타 이전만 하면 되는데 테스트 삼아 Zboard->XE 마이그레이션툴로 기존 게시물중 일부를 백업받으려고 보니 게시물수도 어마어마하다.
사진커뮤니티이기때문에 모든 게시물마다 고해상도 사진파일들이 첨부되어있었고 총 30여개의 게시판에 게시물수도 30만개 가량 되었다.
백업할 XML 파일을 1기가 단위로 분할하여 그중 한개를 다운로드받아보니 다운로드 시간만도 무지 오래걸리고, 아니나 다를까 사이트관리자로부터 연락이 왔다. 지금 무슨 작업하느냐고, 회원들 항의가 들어왔다고..
항의를 무릅쓰고 한가지 테스트를 더 해보았다.
즉, 마이그레이션옵션중 "첨부파일미포함" 옵션을 켜고 생성된 XML 파일용량을 보니 켜지않는 상태보다 약 1/50 정도의 용량밖에 되지 않았다.
이 정도면 현재방식으로 작업이 가능하겠다싶어 새 서버에 임포트시켜보니 웬걸, 첨부파일이 영문이면 제대로 임포트가 되는데 한글파일명은 모조리 패쓰하고 만다.
트래픽과 구서버의 HDD용량 때문에 도저히 이 방법으론 불가하다는 판단하에 새로운 방법을 생각했는데
카페24관리자에게 특정시간대에 기존 자료를 아직 사용자가 없는 새서버에 모두 분할백업받아주면 그 자료를 일괄 다운로드받아 PC에 APM 을 설치하고 똑같은 환경에서 PC에서 XML을 다운로드받아 작업하기로 했다.
그리고 백업본 이후에 다시생성되는 나머지 게시물들은 차후 새 서버 오픈하기이전 몇시간정도를 구서버를 세우고 작업하기로 하였다.
다음은 작업 순서별 내용이다.
1. 기본장비를 점검했다. PC에서 300기가정도의 압축데이타를 풀수 있을정도가 되지 않는다. 1T HDD 를 추가구입 장착했다. 작업할 PC가 T끼리 결합하면 공짜로 주는 인터넷이고 게다가 무선랜환경이라 속도도 초당 3~4메가정도밖에 나오질 않는다. 속도문제로 정 안되면 PC방 가서하면 되겠지 생각했다.
2. 카페24에 백업을 의뢰했다. 데이타량 때문에 새서버의 HDD 를 떼어다가 구서버의 HDD를 통채로 카피하여 압축하는 방식으로 했는데, 2,3시간정도면 될줄 알았는데 자꾸 데이타누락이 생겨 새벽부터 그날 오후 6시경까지 진행되었다.
데이타는 300여기가를 5기가단위로 잘라 tar.gzaa 형태로 총 50여개의 파일로 새서버에 분할압축 저장하였다.DB는 약 1.9기가정도의 sql 파일 한개로 백업하였다.
3. 이 데이타를 ftp 로 다운로드받으면서 동시에 PC에 APMSetup 을 설치하였다.
그런데 APMSetup7 은 기본적으로 utf8 로 세팅된다. DB환경을 euckr 로 쉽게 바꿀수 있을줄 알았는데, 설정변경후 백업 sql 을 임포트시켜보니 계속 한글이 깨진다. 결국 APMSetup5 로 설치하였다.
약 1.9기가 가량의 sql 은 다행히 잘 임포트되었다. DB 문제는 해결이다.
4. 이제 50여개로 분할압축된 약 300기가의 데이타를 압축해제해야한다.
Alzip 을 실행해 보니 아니나다를까 첨부터 먹히질 않는다. 일찌감치 포기하고 알집은 아예 삭제해 버렸다.
구글링을 해보니 이정도 데이타를 윈도우환경에서 압축해제하려면 7zip 이 가장 낫다고 되어있다. 그런데 공홈에서 설명하는 내용을보니 Tar 압축인 경우 32비트 PC에서는 최대 2기가 까지만 압축해제가 가능하다고한다 (정확하게 해석했는지는 모르겠다)
어찌됐든 시도해보기로 했는데 전체 분할파일을 모두 선택하고 7z 으로 해제를 시작하니 3가지정도의 오류가 생긴다.
.tar로 해제생성할 수 없고 gzip 포맷으로 해제될거다, 마지막 추가파일이 더 있는거 같다 등 총 3가지 오류였는데 무시하고 해제를 강행하였다.
그런데 압축해제된 파일을 보니 ABC.tar 아니면 다른형태로라도 확장자가 붙어있어야 되는데 아예 확장자없는 파일이 생겨있다.
용량은 약 300기가 정도로 제대로 풀려있는거 같은데 순간 황당했던 기분이란..
암튼, 오류가 3가지나 생겼으니 제대로 해제가 안된거라고 판단하고 다시 반디집을 통해 시도해 봤는데 반디집은 분할압축된 파일들은 해제할수 없나보다. 여러파일들을 동시 선택할 수 없고, 첫번째 파일만선택후 압축해제하니 오류가 생겨버린다. 난감.
모험을 해보기로 했는데 7zip 을 통해 확장명없이 생성된 파일명을 고쳐 ABC.tar 란 확장자를 붙이고 다시 반디집으로 압축을 해제해 보니 어라? 압축이 풀린다.
무려 300기가를 잘 풀어낸다. 반디집 대단하다!
지금 그렇게 풀어낸 300기가 데이타를 PC에서 APMSetup->htdocs 로 복사시켜두고 XML 백업받고 있다.
그중 한개를 ftp 로 새서버에 업로드하여 테스트 하니 첨부파일까지 잘 들어갔다.
이제 날밤새며 PC APM에서 XML 만들고, ftp 로 새서버에 올리고, 새서버에서 xml 임포트 시키는 일들이 남아있다.
그런데 APM 로컬서버에서 XML 다운로드받는것도 시간이 꽤 걸린다. 아무래도 PC 사양문제인듯하다.
압축해제하면서 알게된건데 윕도우용 TarTool 이란것도 있다. 반디집으로 안되면 TarTool 을 써봐야겠다 생각했는데 아직 못써봤다.
참고로, 작업 PC환경은 아래와 같다. 당분간 PC는 안바꿔도 되겠다. ^^
PS : 이 글이 팁이 될수 있을지는 모르겠지만 검색해 보니 대용량서버이전에 대한 글들이 부족하고 나름대로 시행착오를 거쳐 얻은 노하우라 생각되어 기록으로 남겨둘겸 이곳에 글을 남깁니다.
저같은 케이스를 만나실 일 있으시면 조금이라도 도움 되시길
댓글 14
-
키스투엑스이
2015.02.13 23:39
-
forest535
2015.02.14 01:44
네, 처음엔 용기가 안나서 묻고답하기에 몇가지 질문 올렸더랬습니다 ^^
-
노에르
2015.02.14 00:20
재밌게 잘 읽었습니다! 경험 또한 팁이라고 생각합니다! ^^ 고생하셨네요
-
forest535
2015.02.14 01:45
감사합니다 ^^
-
misol
2015.02.14 00:39
우와... 담력도 그렇고 대단하세요!! -
forest535
2015.02.14 01:44
아는거 없고 무식하면 용기가 생기지요 ㅎㅎ
-
GG
2015.02.14 01:40
리눅스로 작업하셨더라면 좀 더 수월하셨을 수도 있었을 것 같습니다!
좋은 경험담 감사합니다!
-
forest535
2015.02.14 01:43
저도 그렇게 생각합니다. 본격적으로 작업시작하기전에 리눅스를 생각했었는데
이번작업 끝내고나면 다시 리눅스를 설치해보려고합니다.
오래전에 페도라, 우분투를 설치해본적은 있는데 요즘은 어떤게 대세인가요?
-
GG
2015.02.14 01:49
서버는 왠지 CentOS 많이 쓰는것 같습니다.
-
forest535
2015.02.14 01:51
감사합니다.
-
검푸
2015.02.16 09:37
좋은 팀 감사하니다.
데이터 가져오기 할때 XE에서 제공하는 데이터 들여오기 기능을 이용해서 작업을 하셨나요 ?
들여오기 기능을 이용 하실때
작업중에 멈추는 현상이 없었는지요 ?
-
forest535
2015.02.16 12:54
그 방법외에는 아는 방법이 없어 XE의 데이터들여오기로 했습니다
제경우엔 그나마 서버환경이 괜찮았던거 같아서 멈춤현상이 많이 발생하지는 않았습니다.
게시물 10만개정도의 게시판자료를 옮겨올때는 2000개씩 잘라서 50개로 분할임포트했는데
그중 개당 용량이 1.5기가를 넘어가는 게시물 옮길때에는 멈춤현상이 있었습니다
멈춰있는 도중에 자동로그아웃되는현상도 있었고요,
암튼 로그인유지옵션켜고 다시 로그인 한뒤 중단된 게시물 삭제하고 다시 임포트하는 과정도 있었습니다.
-
109joo
2015.02.24 15:33
안녕하세요.
XE로 혼자서 홈페이지 만들고 있는 학생입니다..
도움 청할 곳이 없어 댓글답니다..ㅠㅠ
메일주소 가르쳐주시면 메일로 여쭤보고 싶습니다..
-
forest535
2015.02.24 15:36
저도 xe 제대로 알진 못합니다만, ********* 으로 보내주시면 됩니다
제목 | 글쓴이 | 날짜 |
---|---|---|
주소를 지도링크하기 | 마루디자인 | 2015.03.04 |
도메인이 바뀐후 기본 URL을 바꿨지만 2차메뉴의 링크는 바뀌지 않은 경우. [9] | Ryuj | 2013.11.20 |
xpresseditor에 한글 글꼴 추가 [2] | YJSoft | 2013.10.25 |
XE 로그인을 아이디로 바꾸려는데 회원설정에서 회원가입 탭이 안보일때. | 불금 | 2015.02.27 |
PDF 뷰어 팁 [4] | 돼지코구뇽 | 2014.12.06 |
kakao Javascript SDK logout | 컴박살 | 2015.02.25 |
특정 게시판에서는 스팸 ip 동작 안하게 하기 [4] | Kxo | 2015.02.22 |
htaccess 보안 팁 | 포럼위트 | 2015.02.24 |
300기가 Zboard4->XE 이전기 [14] | forest535 | 2015.02.13 |
스케치북 최신버전에서 미리 덧글 입력해두기 [5] | LI-NA | 2015.02.18 |
추천 취소 기능 만들기 [5] | Summer | 2013.09.11 |
xe core 설치 화면 오류 있습니다. 이렇게 바꿔주세요. [2] | 한꼬마 | 2015.02.18 |
데이타 이전 시 xml 파일 임포트 속도 높이기 ^^ | forest535 | 2015.02.17 |
jquery 외부로드하기 [22] | DynamicLaser | 2014.04.07 |
XE와 별도 프로그램 연동시 세션공유 [15] | 똑디 | 2008.12.12 |
snoop가 안될때 curl 로 가져오기 [3] | 한꼬마 | 2015.02.13 |
템플릿등에서 PHP 제어 구조(if, for, foreach)의 대체 문법 적용 [3] | 총모아 | 2015.01.30 |
1.4.2.3 에서 1.4.3 이상 버전으로 업그레이드 시 백지화면 해결팁 [4] | 2년후 | 2010.12.15 |
회원가입후 24시간 이후 글작성 가능하기 [2] | 샵사이드 | 2015.02.09 |
인증메일을 gmail의 smtp로 보내기 [29] | showjean | 2012.07.17 |
어찌 300기가를 옮길 수 있을까 생각했지만 해내셨군요.
DB용량만 1.9기가라니 무섭네요..
좋은 게시글 잘 봤습니다.