본문 바로가기

IT 정보/블로그 기초편

구글 블로그 설정 robots.txt 사용 초보자용

반응형

구글 블로그 셋팅 기초편 robots.txt 사용 설정 초보자용 Blogger에 robots.txt를 정의하는 방법, 설치 이유, 그리고 설치 방법에 대해 알아 봅니다. 블로그 SEO를 개선하기 위한 중요한 요소입니다.

목차

 

robots.txt 설정
썸네일


블로그 운영자는 자신의 블로그를 검색 엔진 최적화(SEO)하고 싶습니다. 이를 위해 robots.txt 파일을 사용하여 검색 엔진 크롤러에게 원하는 방식으로 블로그를 탐색할 수 있습니다. 이 글 블로그에서는 스팟에 robots.txt를 설명하는 방법, 설치 이유, 그리고 설치 방법에 대해 알아 보겠습니다.

1. robots.txt가 무엇인가요?

robots.txt는 웹 사이트에서 검색 엔진 로봇의 작업을 제어하는 중요한 텍스트 파일니다.

검색 엔진 로봇이 웹 사이트를 방문할 때, robots.txt 파일을 참조하여 어떤 페이지를 수집할 수 있는지 제한합니다. 예를 들어, 비밀번호가 필요한 페이지나 개인 정보가 포함된 페이지를 로봇이 수집하지 못하도록 차단할 수 있습니다.

2. 블로그에서 robots.txt가 중요한 이유는 무엇입니까?

블로그에서 robots.txt가 중요한 이유는 검색 엔진 로봇이 블로그의 모든 페이지를 방문하면서 불필요한 페이지를 수집하게 되면, 블로그의 서버 부하가 증가하고 검색 결과에 불필요한 페이지가 포함될 수 있기 때문입니다. robots.txt를 이용하여 로봇이 방문할 수 있는 페이지를 제한함으로써, 블로그의 검색 엔진 최적화(SEO)를 개선하고, 불필요한 서버 부하를 줄일 수 있습니다.

3. Blogger에서 robots.txt를 설치하는 방법

 Google Blogger를 사용하여 robots.txt 파일을 설정하는 방법은 다음과 같습니다.

robots.txt 파일 설정

 

User-agent: *

Disallow: /search

Allow: /

Sitemap: https://your-blog-url/sitemap.xml

 

https://your-blog-url   <<<  자기 도메인 주소로 변경하면 됩니다

  • "User-agent"는 로봇의 이름을 나타내며, "*"는 모든 로봇을 의미합니다.

      따라서 "User-agent: *"는 모든 로봇에 대한 지시어를 설정하겠다는 의미입니다.

  • Disallow: /search는 /search 경로에 있는 모든 페이지를 로봇이 접근할 수 없도록 막는 명령어입니다.
  • Allow: /는 모든 페이지에 대한 접근을 허용하는 명령어입니다.
  • Sitemap: https://your-blog-url/sitemap.xml은 검색 엔진 로봇이 웹 사이트의 사이트맵을 참조할 수 있도록 설정하는 명령어입니다. 사이트맵은 웹 사이트의 모든 페이지를 검색 엔진에게 알려주는 역할을 합니다.

이렇게 robots.txt 파일을 설정함으로써, 검색 엔진 로봇이 웹 사이트를 크롤링할 때 원하지 않는 페이지를 크롤링하지 않도록 제어할 수 있습니다.

 

1. Blogger 계정에 로그인하세요.

 

Blogger.com - 독특하고 멋진 블로그를 간단히 만들어 보세요.

내 관심사를 내 스타일대로 게시하세요. 공유하고 싶은 지식, 경험, 최신 소식이 있으신가요? 독특하고 멋진 블로그를 만들 수 있습니다.

www.blogger.com

Blogger 계정 robots.txt 파일 설정

2. 좌측 메뉴에서 "설정"을 클릭합니다.

3. "설정" 메뉴에서  오른쪽 메뉴중 "크롤러 및 색인 생성"의 "맞춤 robots.txt" 항목으로 이동합니다.

4. "맞춤 robots.txt" 항목에서  원하는 robots.txt 규칙(본인 도메인 수정)을 입력하고, 설정을 "저장"하세요.

5. 이제 robots.txt 파일을 설정확인은 웹페이지를 열고  본인 도메인에 /robots.txt 추가해서 접속해보세요

예제)  https://your-blog-url/robots.txt 

4. robots.txt 파일을 설정하지 않으면?

robots.txt 파일을 설정하지 않으면 검색 엔진 로봇이 모든 페이지를 수집할 수 있습니다. 이 경우, 민감한 정보가 포함된 페이지가 검색 결과에 노출될 가능성이 있으며, 검색 결과의 품질이 저하될 수 있습니다. 또한, 웹 사이트의 로딩 시간이 길어지고 서버의 성능 저하가 발생할 수 있습니다. 따라서, robots.txt 파일을 설정하여 웹 사이트의 콘텐츠를 제어하고 데이터를 보호하는 것이 중요합니다.

 


  robots.txt 파일을 설정하여 블로그의 검색 엔진 최적화(SEO)를 개선하고, 불필요한 서버 부하를 줄일 수 있습니다. 따라서 블로그 운영자는 robots.txt 파일을 설정하는 것이 중요하며 검색 엔진 순위에서 블로그 성능을 향상하는 데 도움이 될 수 있습니다.

반응형