Skip to main content

Table 4 Mean relative root mean square error for 10, 25, 50 and 100 samples/simulation for each density estimator and each spatial pattern for the natural data sets (see Table 3)

From: A comparison of plotless density estimators using Monte Carlo simulation on totally enumerated field data sets

 

Sample size

Sample size

 

RRMSE

Rank

Estimator

10

25

50

100

10

25

50

100

 

Uniform (n = 5)

AO2Q

0.306

0.266

0.247

0.238

7

8

8

8

AO3Q

0.280

0.247

0.232

0.224

6

7

7

7

BDAV3

0.254

0.202

0.182

0.173

3

5

5

5

KM2P

0.247

0.199

0.177

0.166

1

3

3

4

KMP

0.256

0.201

0.177

0.165

4

4

4

3

OD2C

0.307

0.229

0.202

0.188

8

6

6

6

OD3C

0.251

0.182

0.157

0.143

2

1

1

1

VAT

0.258

0.194

0.167

0.148

5

2

2

2

 

Poisson (n = 2)

AO2Q

0.392

0.353

0.341

0.333

8

8

8

8

AO3Q

0.345

0.316

0.307

0.302

7

7

7

7

BDAV3

0.270

0.157

0.114

0.091

4

3

3

3

KM2P

0.232

0.149

0.111

0.088

1

1

2

2

KMP

0.288

0.193

0.153

0.130

5

5

5

5

OD2C

0.304

0.199

0.159

0.131

6

6

6

6

OD3C

0.253

0.160

0.123

0.098

2

4

4

4

VAT

0.256

0.154

0.107

0.077

3

2

1

1

 

Clumped (n = 10)

AO2Q

0.390

0.321

0.293

0.277

2

2

3

3

AO3Q

0.362

0.307

0.284

0.271

1

1

1

2

BDAV3

0.461

0.331

0.287

0.263

6

3

2

1

KM2P

0.424

0.374

0.361

0.354

3

4

4

4

KMP

0.468

0.427

0.413

0.406

7

7

6

6

OD2C

0.491

0.466

0.459

0.455

8

8

8

8

OD3C

0.448

0.426

0.420

0.417

5

6

7

7

VAT

0.439

0.414

0.407

0.403

4

5

5

5

 

All (n = 17)

AO2Q

0.368

0.311

0.287

0.274

4

4

4

4

AO3Q

0.338

0.292

0.273

0.263

1

2

2

2

BDAV3

0.380

0.273

0.236

0.216

6

1

1

1

KM2P

0.346

0.297

0.279

0.269

2

3

3

3

KMP

0.387

0.335

0.316

0.305

7

7

7

7

OD2C

0.417

0.367

0.350

0.340

8

8

8

8

OD3C

0.369

0.325

0.311

0.301

5

6

6

6

VAT

0.366

0.321

0.303

0.291

3

5

5

5