最近院長收到一個非常典型的抓取優(yōu)化例子，整理一下分享給各位，各位站長們謹記不要出現(xiàn)相同的情況：

站點反饋：


網(wǎng)站主體內容都是js生成，針對用戶訪問，沒有做優(yōu)化；但是網(wǎng)站特針對爬蟲抓取做了優(yōu)化，且將圖片也直接做了base64轉化；然而優(yōu)化后發(fā)現(xiàn)內容卻不被百度收錄。


頁面質量很好，還特意針對爬蟲做了優(yōu)化，為什么內容反而不收錄了呢？


工程師分析：


1、網(wǎng)站針對爬蟲爬取做的優(yōu)化，直接將圖片二進制內容放到了html中導致頁面長度過長，網(wǎng)站頁面長度達164k；


2、 站點優(yōu)化后將主體內容放于最后，圖片卻放于前面；


3、爬蟲抓取內容后，頁面內容過長被截斷，已抓取部分無法識別到主體內容，最終導致頁面被認定為空短而不收錄。


工程師建議：


1、不建議站點使用js生成主體內容，如js渲染出錯，很可能導致頁面內容讀取錯誤，頁面無法抓取


2、 如站點針對爬蟲爬取做優(yōu)化，建議頁面長度在128k之內，不要過長


3、針對爬蟲爬取做優(yōu)化，請將主題內容放于前方，避免抓取截斷造成的內容抓取不全