如何指定抓取的Cookie处理方式?

robots.txt文件中,可以使用Cookie-directive指令来指定爬虫处理Cookie的方式。例如,”Cookie-directive: ignore”将告诉爬虫忽略Cookie的处理。