在平時(shí)的開發(fā)中，我們經(jīng)常遇到數(shù)據(jù)表中出現(xiàn)重復(fù)的數(shù)據(jù)，那么該如何解決呢？這里介紹兩種情況下的數(shù)據(jù)去重方法，一、完全重復(fù)數(shù)據(jù)去重；二、部分字段數(shù)據(jù)重復(fù)去重。

一、完全重復(fù)數(shù)據(jù)去重方法

對(duì)于表中完全重復(fù)數(shù)據(jù)去重，可以采用以下SQL語句。

Code

CREATETABLE"#temp"AS (SELECTDISTINCT * FROM 表名);--創(chuàng)建臨時(shí)表，并把DISTINCT 去重后的數(shù)據(jù)插入到臨時(shí)表中

truncateTABLE 表名;--清空原表數(shù)據(jù)

INSERTINTO 表名(SELECT * FROM"#temp");--將臨時(shí)表數(shù)據(jù)插入到原表中

DROPTABLE"#temp";--刪除臨時(shí)表

具體思路是，首先創(chuàng)建一個(gè)臨時(shí)表，然后將DISTINCT之后的表數(shù)據(jù)插入到這個(gè)臨時(shí)表中；然后清空原表數(shù)據(jù)；再講臨時(shí)表中的數(shù)據(jù)插入到原表中；最后刪除臨時(shí)表。

二、部分?jǐn)?shù)據(jù)去重方法

首先查找重復(fù)數(shù)據(jù)

select 字段1,字段2,count(*) from 表名 groupby 字段1,字段2 havingcount(*) > 1

將上面的>號(hào)改為=號(hào)就可以查詢出沒有重復(fù)的數(shù)據(jù)了。

想要?jiǎng)h除這些重復(fù)的數(shù)據(jù)，可以使用下面語句進(jìn)行刪除：

deletefrom 表名 a where 字段1,字段2 in

(select 字段1,字段2,count(*) from 表名 groupby 字段1,字段2 havingcount(*) > 1)

上面的語句非常簡單，就是將查詢到的數(shù)據(jù)刪除掉。不過這種刪除執(zhí)行的效率非常低，對(duì)于大數(shù)據(jù)量來說，可能會(huì)將數(shù)據(jù)庫卡死。

基于上述情況，可以先將查詢到的重復(fù)的數(shù)據(jù)插入到一個(gè)臨時(shí)表中，然后對(duì)進(jìn)行刪除，這樣，執(zhí)行刪除的時(shí)候就不用再進(jìn)行一次查詢了。如下：

CREATETABLE 臨時(shí)表 AS

(select 字段1,字段2,count(*) from 表名 groupby 字段1,字段2 havingcount(*) > 1)

下面就可以進(jìn)行這樣的刪除操作了：

deletefrom 表名 a where 字段1,字段2 in (select 字段1，字段2 from 臨時(shí)表);

先建臨時(shí)表再進(jìn)行刪除的操作要比直接用一條語句進(jìn)行刪除要高效得多。

上面的語句會(huì)把所有重復(fù)的全都刪除，在oracle中，有個(gè)隱藏了自動(dòng)rowid，里面給每條記錄一個(gè)唯一的rowid，我們?nèi)绻氡Ａ糇钚碌囊粭l記錄，我們就可以利用這個(gè)字段，保留重復(fù)數(shù)據(jù)中rowid最大的一條記錄就可以了。

下面是查詢重復(fù)數(shù)據(jù)的一個(gè)例子：

select a.rowid,a.* from 表名 a

where a.rowid !=

(

selectmax(b.rowid) from 表名 b

where a.字段1 = b.字段1 and

a.字段2 = b.字段2

)

上面括號(hào)中的語句是查詢出重復(fù)數(shù)據(jù)中rowid最大的一條記錄。而外面就是查詢出除了rowid最大之外的其他重復(fù)的數(shù)據(jù)了。

由此，我們要?jiǎng)h除重復(fù)數(shù)據(jù)，只保留最新的一條數(shù)據(jù)，就可以這樣寫了：

deletefrom 表名 a

where a.rowid !=

(

selectmax(b.rowid) from 表名 b

where a.字段1 = b.字段1 and

a.字段2 = b.字段2

)

同理，上述代碼的執(zhí)行效率畢竟低，所以我們可以考慮建立臨時(shí)表，將需要判斷重復(fù)的字段、rowid插入臨時(shí)表中，然后刪除的時(shí)候在進(jìn)行比較。

createtable 臨時(shí)表 as

select a.字段1,a.字段2,MAX(a.ROWID) dataid from 正式表 a GROUPBY a.字段1,a.字段2;

deletefrom 表名 a

where a.rowid !=

(

select b.dataid from 臨時(shí)表 b

where a.字段1 = b.字段1 and

a.字段2 = b.字段2

);

commit;