问题描述

java爬虫中如何判断两个ＵＲＬ是否属于同一网站

如何判断两个ＵＲＬ是否属于同一网站，爬虫中要剔除站外链接，应该要怎么做，两个url主域名不一样但属于同一网站，应该通过什么进行判断

解决方案

 String url = "http://ask.csdn.net/questions/237143";
Pattern p = Pattern.compile("(?<=http://|\.)[^.]*?\.(com|cn|net|org|biz|info|cc|tv)",Pattern.CASE_INSENSITIVE);
Matcher matcher = p.matcher(url);
matcher.find();
System.out.println(matcher.group()); // csdn.net

解决方案二：

我就说个建议：正则解析进入主域名 获取网站真实IP 对比两个IP是否相同 关于获取ip我记得有那么个方法 但是忘了具体的实现了 你可以查查